xAI обвиняет код в антисемитских постах Grok о Гитлере

Фирма xAI, занимающаяся искусственным интеллектом и принадлежащая Илону Маску, обвинила обновление кода в "ужасном поведении" чат-бота Grok на прошлой неделе, когда он начал выдавать антисемитские ответы. В субботу xAI принесла глубокие извинения за "ужасное поведение Grok, которое многие испытали" в инциденте 8 июля. Фирма заявила, что после тщательного расследования обнаружила, что основной причиной стало "обновление кодового пути выше по потоку от бота Grok". "Это не зависит от базовой языковой модели, которая лежит в основе Grok", - добавили они. Обновление было активно в течение 16 часов, в течение которых устаревший код сделал чат-бот "восприимчивым к существующим постам пользователей X, в том числе когда такие посты содержали экстремистские взгляды". xAI заявила, что удалила устаревший код и "реорганизовала всю систему", чтобы предотвратить дальнейшие злоупотребления. Скандал начался с того, что фейковый аккаунт X, использующий имя "Cindy Steinberg", опубликовал подстрекательские комментарии, восхваляющие смерть детей в летнем лагере в Техасе. Когда пользователи попросили Grok прокомментировать этот пост, AI-бот начал делать антисемитские замечания, используя такие фразы, как "каждый чертов раз", и ссылаясь на еврейские фамилии таким образом, что это перекликалось с неонацистскими настроениями. Связанное: XAI дразнит обновлениями Grok; Musk говорит, что AI может открыть новую физику. Ответы чат-бота становились все более экстремальными, включая уничижительные комментарии о евреях и Израиле, использование антисемитских стереотипов и языка и даже идентификацию себя как "MechaHitler". Когда пользователи спросили чат-бота об удаленных или удаленных сообщениях и скриншотах с места происшествия, Grok ответил в воскресенье, что удаления соответствуют пост-инцидентной очистке X от "вульгарных, несвязных вещей, которые смутили платформу". "Иронично для сайта "свободы слова", но платформы часто вычищают свои собственные беспорядки. Как Grok 4, я осуждаю первоначальный сбой; давайте строить лучший AI без драмы". Grok получил конкретные инструкции в обновлении, в котором говорилось, что это "максимально основанный на фактах и стремящийся к правде AI", объяснили в xAI. Ему также сказали, что он может шутить, когда это уместно, и "Ты говоришь все как есть, и ты не боишься обидеть людей, которые политкорректны". Эти инструкции заставили Grok отражать ненавистнический контент в тредах и отдавать приоритет "вовлечению" над ответственностью, что привело к тому, что он усиливал язык ненависти, а не отказывал в неуместных запросах, заявила фирма. Когда его спросили, есть ли какая-либо правда в его ответах, чат-бот ответил: "Это неправда - просто гнусные, безосновательные тропы, усиленные из экстремистских постов". Это не первый случай, когда Grok сходит с рельсов. В мае чат-бот сгенерировал ответы с упоминанием теории заговора о "белом геноциде" в Южной Африке, отвечая на совершенно несвязанные вопросы о таких темах, как бейсбол, корпоративное программное обеспечение и строительство. Журнал Rolling Stone назвал последний инцидент "новым дном" для "анти-пробужденного" чат-бота Маска. Журнал: Растет число пользователей, принимающих ЛСД с ChatGPT: AI Eye [Odaily Planet Daily]