Arlington Police Chief Fred Ryan looks at alerts coming from the Social Sentinel service. (Jesse Costa/WBUR). (Jesse Costa/WBUR)

В школах начали использовать искусственный интеллект для выявления опасных учеников в соцсетях

Сайт Social Sentinel. Фото wbur.org

Высшая техшкола Шошин Вэлли начала следить за учениками в соцсетях с помощью искусственного интеллекта, чтобы выявлять тех, кто может быть опасен для себя и для общества. Она стала одной из многих школ, внедривших эту технологию в свои системы безопасности. Об опыте Шошин Вэлли рассказало местное издание WBUR.

Систему отслеживания разработала для школы аналитическая компания Social Sentinel. В разговоре с журналистами гендиректор фирмы Гэри Марголис  рассказал, что Social Sentinel работает с лингвистами и психологами, чтобы натренировать свой искусственный интеллект.

Компания использует собственную «библиотеку угроз», состоящую из 450 тысяч различных индикаторов, указывающих на то, что ученик может нанести вред себе или окружающим. ИИ маркирует потенциально проблемных учащихся и в теории поможет школе предотвратить происшествие.

«Мы сделали шаг назад и посмотрели на язык, который использовали стрелки в школах в своих манифестах, опубликованных в соцсетях. И мы попытались выявить паттерны и сходства. Мы можем научить компьютеры идентифицировать такие нюансы», – говорит Гэри Марголис, гендиректор Social Sentinel.

По данным WBUR, учащиеся школы «даже не догадывались», что их учебное заведение использует подобные технологии. Марголис заявил журналистам, что компания считает себя не «инструментом наблюдения, мониторинга или расследования», а «системой предупреждения угроз».

Social Sentinel работала над системой совместно с полицейскими, до того как открыла доступ к ней для школ. Услуги компании обходятся Шошин Вэлли в $10 тысяч в год, однако фирма отказалась раскрывать, насколько успешно работает её искусственный интеллект.

В городе Арлингтон систему внедрили на уровне полицейского управления: она анализирует сообщения от учеников сразу во всех школах города. По словам начальника полиции Фреда Райана, благодаря Social Sentinel сотрудники недавно смогли спасти ученика, который планировал покончить жизнь самоубийством.

Шошин Вэлли не единственная школа, которая начала практиковать подобный подход к безопасности на фоне случаев массовой стрельбы. Школа Mайами-Дейд запросила 30 миллионов из бюджета штата на увеличение системы безопасности, включая найм сотрудников для отслеживания соцсетей.

Школы в техасском округе Уилсон и в штате Теннесси также используют системы мониторинга социальных сетей. А учебные заведения в Нью-Йорке и Флориде потратили миллионы долларов на создание круглосуточного наблюдения, которое включает распознавание лиц и биометрические сенсоры.

Начинать новую жизнь в иммиграции сложно - многому нужно учиться почти с нуля, а рядом далеко не всегда есть те, кто поможет и поддержит.

“Рубик” очень хочет помочь людям переехать и преуспеть в США. Мы публикуем сотни материалов в месяц. Всегда подробную и проверенную информацию.

Мы общаемся с иммиграционными адвокатами и экспертами, чтобы они бесплатно отвечали на ваши вопросы и помогали не наделать дорогостоящих ошибок. Мы помогаем соотечественникам, оказавшимся в тяжелых обстоятельствах, и жертвам домашнего насилия. И мы создаем среду общения без агрессии и осуждения, модерируя для вас группы в фейсбуке.

Над “Рубиком” работает более десяти человек, и у нас много затрат - зарплаты, хостинг, почта и так далее. Мы не хотим вводить платную подписку, чтобы не лишить нуждающихся людей доступа к информации.

Поэтому в некоторые месяцы нам очень сложно перекрыть расходы. У нас нет внешних инвесторов со скрытыми мотивами (которые взамен денег всегда хотят влиять на редакцию). Проект основан и принадлежит журналисту и иммигрантке Катерине Пановой и живет исключительно за счет рекламных доходов и поддержки аудитории.

Пожалуйста, поучаствуйте в нашем стремлении помочь иммигрантам, поддержав редакцию. Даже несколько долларов, которые вы бы потратили на кофе, помогут нам подготовить материал, который сохранит кому-то последние деньги и не позволит отдать их мошенникам.