В Петербурге создали программу с искусственным интеллектом по защите детей в интернете

16.08.2021 09:14 | Санкт-Петербург и Ленинградская область

Она позволяет оценить степень суицидального риска по контенту, получаемому из интернета

Программу по защите детей в интернете, которая работает с применением технологий искусственного интеллекта, разработали в Петербурге. Об этом сообщила в четверг пресс-служба аппарата вице-губернатора Санкт-Петербурга Станислава Казарина.

Речь идет о первом в стране программном комплексе, который проводит аналитику в социальных сетях в интернете, выявляет среди пользователей "группы смерти" или подростков с суицидальными наклонностями. Он включает мониторинг, анализ, выявление факторов негативного влияния цифровой среды на молодежь, выявление суицидального и депрессивного контента при помощи программы искусственного интеллекта. Как уточнили ТАСС в пресс-службе Казарина, комплекс прошел необходимые тестирования.

"Комплексная программа по защите личности от интернет-рисков и оказания психологической помощи онлайн "Защита будущего" создана вместе с аппаратом уполномоченного при Президенте России по правам ребенка, Агентством стратегических инициатив и прокуратурой. Петербург представил программу в Великом Новгороде, на пленарной сессии всероссийского проекта "Архипелаг 2035".

По словам общественного представителя Агентства стратегических инициатив в Санкт-Петербурге Надежды Коротовских, в России суицид среди причин гибели несовершеннолетних находится на третьем месте. "При этом нарастает тенденция активного смещения преступлений против детей в интернет. Поэтому вопросы информационной безопасности должны быть в приоритете", - сказала она.

Как рассказала Коротовских, разработано несколько вариантов программного обеспечения. В частности, программа на основе технологий искусственного интеллекта, которая занимается предварительной обработкой и ранжированием информации. Она позволяет оценить степень суицидального риска по контенту, получаемому из интернета и наиболее популярных у российских детей и подростков социальных сетей.

Кроме того, была разработана дорожная карта по доработке и реализации проекта комплексной программы защиты несовершеннолетних от интернет-рисков и оказанию психологической помощи. Проект включает в себя мониторинг, анализ, выявление факторов негативного влияния цифровой среды на подростков, выявление суицидального и депрессивного контента при помощи программы искусственного интеллекта, а также оперативное реагирование: блокирование контента и помощь в острых случаях. Ожидается, что программа будет апробирована в Петербурге и Ленинградской области, чтобы в дальнейшем ее можно было использовать на всей территории РФ.