Microsoft выпустила систему автоматизированного поиска под кодовым названием Project Artemis, способную выявлять людей, которые совращают детей в интернете, пишет MIT Technology Review.

Метод: программа сканирует переписку пользователей в Сети, затем ищет в сообщениях слова и фразы, содержащие сексуальные намеки; если система обнаружит таковые, одному из пользователей присваиваются “штрафные баллы”. Компании, внедряющие эту технологию, могут задавать “норму баллов” (например, 8 из 10 баллов): если программа оценит переписку выше заданной нормы, то отправит историю пользователя модератору на проверку. Модератор изучит переписку и в случае опасности передаст всю информацию правоохранителям. 

Microsoft уже использует Project Artemis в двух своих продуктах: чатах Xbox и Skype, об этом сообщил в личном блоге главный специалист компании по цифровой безопасности Кортни Грегуар.

Как это работает? Microsoft не объяснила, по каким словам и фразам система ищет потенциальных преступников. Причина: это приведет к тому, что педофилы смогут корректировать свое поведение в интернете и попытаются скрыть свои намерения.

Программа доступна бесплатно для компаний, предоставляющих пользователям Сети онлайн-чаты. Чтобы ее получить, необходимо связаться с некоммерческой организацией Thorn, которая разрабатывает технологии для защиты детей от сексуальных надругательств.

Риски: эксперты считают, что системы автоматизированного поиска, работающие на искусственном интеллекте, пока слабо обучены на распознавание конкретных слов и фраз, поэтому технология Microsoft может привести к ошибкам в выявлении в интернете педофилов. 

Статистика: Только за 2018 год модераторы обнаружили в игровых чатах 45 млн фото- и видеоматериалов детской порнографии, это в два раза больше, чем в 2017 году, пишет The New York Times.  

Подписывайтесь на наш канал в Яндекс Дзен. Поделитесь мнением о материале и расскажите о нем друзьям! Еще больше интересной информации о науку и технологиях можно найти в нашем Telegram.