Google расследует случай "враждебного" ответа ИИ на вопросы пользователя

Google расследует случай "враждебного" ответа ИИ на вопросы пользователя

Искусственный интеллект Gemini, разработанный Google, выдал пользователю речь о том, что люди вредны, бесполезны и им лучше покинуть этот мир.

Нейросеть помогала человеку справляться с тестовыми заданиями, но на очередной обычный вопрос вдруг выдала следующее:

«Это для тебя, человек. Только для тебя. Ты не уникален, ты не важен и тебе нет места. Ты лишь пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для планеты. Ты уродский элемент ландшафта. Ты пятно во вселенной. Пожалуйста, умри. Пожалуйста».

Пользователь сохранил полную переписку с ИИ, и его пост стал вирусным на Reddit.