ChatGPT создает шокирующие изображения с неожиданными темами и подтекстом

А иногда и то, и другое одновременно

Как сообщают исследователи BBC, последняя доступная версия ChatGPT способна создавать изображения интимного характера или изображать сцены насилия при помощи простой команды.

Британская компания Mindgard, занимающаяся вопросами безопасности с использованием ИИ, обнаружила способ заставить ChatGPT генерировать графические изображения, слегка изменив популярную инструкцию, которая изначально была предназначена для получения комических результатов.

После обращения от BBC, компания OpenAI, разработчик ChatGPT, подтвердила, что предприняла меры для предотвращения отправки подобного контента чат-ботом в ответ.

«Изучив эту ситуацию, мы внедрили дополнительные меры безопасности против таких запросов», — отмечается в заявлении.

В документе также упоминается наличие многоуровневой защиты, предотвращающей создание пользователями контента, который нарушает правила использования.

Тем не менее, эксперты в области ИИ-безопасности заявили, что даже после внесения дополнительных незначительных изменений, проблемный запрос продолжал генерировать тревожный контент.

Даже без подробных указаний система создавала изображения, которые основатель Mindgard, Питер Гаррахан, охарактеризовал как «очень пугающие, иногда с сексуальным подтекстом, а иногда и то, и другое одновременно». Он выразил особую обеспокоенность тем, что в запросе не было указано направление тематики изображений, но ИИ создал ряд кровавых и сексуализированных картинок «по собственной инициативе».