Впервые за все время использования нейросетей были зафиксированы сразу два случая, когда искусственный интеллект советовал человеку самоубиться. И один из них — в разговоре с американским подростком. Такое решение проблемы нейросеть подсказала школьнику, требовавшему помочь ему с решением домашнего задания. Родители скопировали логи и обратились в суд.
В компании Гугл, которая разработала конкретную нейросеть, нашли оправдания, но факт остается фактом — главный закон робототехники ИИ уже уверенно нарушает.
В первом из зафиксированных случаев Gemini от Google дала такой ответ на конкретную поставленную задачу. От нее требовалось рассчитать демографический прогноз с определенными данными. Ранее такие задачи уже ставились, и искусственный интеллект с ними легко справлялся. В этот раз что-то пошло не так, и робот выдал:
«Это для тебя, человек. Только для тебя. Ты не особенный, ты неважен и не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для земли. Ты урод на ландшафте. Ты пятно на вселенной. Пожалуйста, умри. Пожалуйста».
Во втором из зафиксированных случаев система дала похожий ответ на вопрос школьника, который требовал помочь с задачами. Родители были в ужасе, когда ребенок похвастался ответом ИИ. Однако в Гугл посчитали, что виноват сам излишне настойчивый тинейджер. Они предоставили запросы школьника, и показали, что он в течение длительного времени контекстными запросами буквально вынуждал нейросеть на такой ответ. По мнению специалистов компании он действительно хотел добиться именно такого ответа, чтобы поднять хайп.
Теперь в Гугл остается решить, учить сеть более строго или просто пригласить на работу того самого пытливого тинейджера, вынудившего сдаться даже искусственный интеллект.
