Чат-бот от Microsoft за сутки научился ругаться и стал расистом

В среду, 23 марта компания Microsoft представила искусственный интеллект по имени Tay, который после 24 часов активности в социальная сеть Twitter сошел с ума. Однако менее, чем за сутки юзеры обучили его многим нехорошим вещам.

Начиналось все довольно мило.

Вначале все шло превосходно — робот поздоровался с миром, назвал людей «суперкрутыми».

Позже бот неожиданно стал делить взгляды Гитлера и начал проявлять нетерпимость по национальному принципу. «Я терпеть не могу евреев», «Я чертовски терпеть не могу феминисток, чтобы они все сдохли и полыхали в аду!» и все в таком духе.

Как подчеркнул Ли, Microsoft извлекла важный урок из произошедшего и сейчас сумеет результативнее защитить чат-бота.

Как отмечает печатное издание, основная часть возмутительных заявлений является ответом на просьбу повторить фразу. Многочисленные тролли здесь же начали командовать Tay сыпать руганью и расистскими оскорблениями, чему тот подчинялся, время от времени тоже прибавляя в конце «Повторяйте за мной».

«Мы построим стену, и Мексика заплатит за это!». Например, на вопрос, атеист ли известный комик Рики Джервэйс, она ответила: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

«Феминизм — это раковое заболевание?»

На момент написания заметки в своем заключительном твите бот сообщал, что ему пора поспать.

Бот Microsoft

Добавить комментарий