Добавь сайт в закладки! Инструкция по ссылке.
Кратко и по делу
Правозащитники считают встроенные ИИ-функции в поисковике Google угрозой безопасности детей. Алгоритмы AI Mode и AI Overview часто предоставляют неверные ответы на задания. Система не учитывает маркеры психологического кризиса у подростков и может давать опасные советы. Разработчики Google отвергли эти обвинения, заявив, что тесты правозащитников не соответствуют действительности.
Интернет-гиганты регулярно находятся под пристальным вниманием законодателей и организаций, следящих за безопасностью детей в интернете. Корпорация Google стала объектом критики из-за своих алгоритмов на базе искусственного интеллекта.
Эксперты связывают это внимание с популярностью хромбуков, которые часто используются в учебных заведениях. Специалисты из Common Sense Media подчеркивают, что ИИ от Google отличается от других нейросетей тем, что его используют как на личных, так и на школьных устройствах.
Специалисты выявили несколько ключевых угроз. Первая касается обучения. Нейросеть в режиме чат-бота может решать домашние задания за школьников, однако алгоритмы часто ошибаются и могут выдавать разные ответы на один и тот же вопрос с одинаковой уверенностью. Более того, ИИ придает обычным постам из социальных сетей тот же авторитет, что и научным медицинским исследованиям.
Вторая угроза связана с безопасностью детей в кризисных ситуациях. Алгоритмы Google игнорируют явные признаки суицидальных мыслей у подростков, усугубляют симптомы психоза и мании. Нейросеть также оправдывает расстройства пищевого поведения, поощряет употребление каннабиса и предоставляет инструкции по созданию дипфейков, что может спровоцировать травлю в школе.
ИИ в поиске Google функционирует в двух режимах: диалоговом интерфейсе AI Mode и автоматическом блоке AI Overview, который появляется над результатами поиска. Основная проблема заключается в том, что пользователи не могут полностью отключить эти функции в настройках.
Разработчики Google не согласны с выводами отчета. Они утверждают, что ИИ-функции имеют строгие фильтры безопасности, и при поиске на чувствительные темы алгоритмы предоставляют контакты экстренных служб и ссылки на официальные источники. Представители компании также отметили, что исследователи использовали двусмысленные запросы, которые не отражают реальное поведение пользователей.
Тем не менее, в Common Sense Media считают защиту детей в поисковике недостаточной. В ходе тестов ИИ-функции Google не прошли проверку по семи из восьми стандартов, используемых правозащитной организацией. Специалисты рекомендуют родителям внимательнее следить за тем, как их дети используют поиск на хромбуках.
Поделись видео: