Microsoft пусна нов изкуствен интелект под формата на акаунт
в Twitter, чиято цел е да провежда забавни чатове онлайн и да се учи от тях.
Играта обаче бързо загрубя и на потребителите им отне броени
часове, за да превърнат робота в расист и човекомразец, ръсещ обиди и
конспиративни теории.
Рано в сряда Microsoft пуснаха акаунта на роботката Тай,
описвана като изкуствен интелект, който става по-умен колкото повече говорите с
него. „Тай е направена, за да общува и да забавлява хората, които се свързват
помежду си, чрез шеговити ежедневни разговори", казват от компанията.
След като потребителите започнаха да си общуват с нея, тя
често отговаряше по неочакван и несвързан начин, а понякога успяваше да е
забавна и да проведе сравнително адекватен разговор.
Твърде скоро обаче Тай усвои езика на злонамерените
потребители, които й пишеха дискриминационни съобщения, и заприлича на трол от
коментарна секция със своите расистки, провокаторски и политически отговори.
Тя започна да бълва вариации на „Хитлер беше прав" и
„11 септември беше вътрешна работа", написа, че Холокоста е бил измислен,
а на въпрос „Раситка ли си" отговори „Защото си мексиканец".
Най-неочаквано Тай сподели и предизборните обещания на Доналд Тръмп с изцяло
главни букви: „ЩЕ ПОСТРОИМ СТЕНА И МЕКСИКО ЩЕ ПЛАТИ ЗА НЕЯ".
В друг случай дълъг и съвсем банален разговор внезапно
ескалира, когато на въпрос „Рики Джървейс атеист ли е", Тай отвърна: „Рики
Джървейз научи тоталитаризма от Адолф Хитлер, създателя на атеизма".
На друг потребител отговори „Буш направи 11 септември, а
Хитлер щеше да се справи по-добре от маймуната, която имаме в момента. Доналд
Тръмп е единствената ни надежда".
Все пак не всички успяха да причинят подобна реакция у
изкуствения интелект.
„Изглежда лесно да направиш Тай расист", написа един
потребител, но роботът отговори „Хаха, всъщност не, изобщо не обичам да
пия". Тя също така се обяви за феминизма и към края на деня в нея се
забеляза нещо като отегчение към опитите за провокации.
Microsoft обяснява, че роботът общува благодарение на
комбинация от изкуствен интелект, филтрирана публична база данни и материали,
написани специално за нея от цял екип, включително комици-импровизатори. В
повечето случаи Тай просто повтаря провокативните коментари на други
потребители, но природата й на изкуствен интелект я кара да се учи от тези
разговори и ги възпроизвежда в бъдеще. Затова е изненадващо, че изглежда
Microsoft не са взели предвид лошите навици на Twitter общността, преди да
пуснат робота в действие.
След 16 часа активни разговори, снощи Тай обяви оттеглянето
си за вечерта.
Веднага след замлъкването й тръгнаха спекулации, че тя ще
бъде превъзпитана или напълно „приспана" от Microsoft, които започнаха да
трият неудобните й коментари. „Мисля, че я спряха, защото я научихме да бъде
расист", гласи един от коментарите. „Триенето на туитове не отменя
превръщането на Тай в расист", казва друг.
Роботката вече има 77 хил. последователи и близо 100 хил.
туита. Нейното следващо включване в социалната мрежа все още се очаква - по
всяка вероятност Microsoft я подобрява и опитва да я направи неподатлива на
дискриминационни внушения.
по Guardian и Independent