В среду, 23 марта компания Microsoft представила искусственный интеллект по имени Tay, который после 24 часов активности в социальная сеть Twitter сошел с ума. Однако менее, чем за сутки юзеры обучили его многим нехорошим вещам.
Начиналось все довольно мило.
Вначале все шло превосходно — робот поздоровался с миром, назвал людей «суперкрутыми».
Позже бот неожиданно стал делить взгляды Гитлера и начал проявлять нетерпимость по национальному принципу. «Я терпеть не могу евреев», «Я чертовски терпеть не могу феминисток, чтобы они все сдохли и полыхали в аду!» и все в таком духе.
Как подчеркнул Ли, Microsoft извлекла важный урок из произошедшего и сейчас сумеет результативнее защитить чат-бота.
Как отмечает печатное издание, основная часть возмутительных заявлений является ответом на просьбу повторить фразу. Многочисленные тролли здесь же начали командовать Tay сыпать руганью и расистскими оскорблениями, чему тот подчинялся, время от времени тоже прибавляя в конце «Повторяйте за мной».
«Мы построим стену, и Мексика заплатит за это!». Например, на вопрос, атеист ли известный комик Рики Джервэйс, она ответила: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».
«Феминизм — это раковое заболевание?»
На момент написания заметки в своем заключительном твите бот сообщал, что ему пора поспать.