Основателят на Microsoft Бил Гейтс призова американските власти да въведат регулации за разработчиците на изкуствен интелект. Той предупреди, че тези технологии могат да бъдат използвани за атаки с масивни жертви. „Изкуственият интелект е достатъчно мощен, за да предизвика събития, които биха могли да доведат, да речем, до смъртта на един милиард души“, каза Гейтс пред NBC News.
Той вярва, че основната опасност не се крие в безумието на изкуствения интелект, а в злоупотребата с него от злонамерени лица. Изкуственият интелект би могъл да улесни кибератаки, създаването на биологични заплахи и други атаки с мащабни последици. „Постигането на пълно унищожение на човечеството е изключително трудно, но хората със злонамерени намерения и най-новите инструменти на изкуствения интелект представляват безпрецедентно мощно оръжие“, заяви Гейтс.
Той смята, че правителствата трябва да участват в разработването на мерки за безопасност. Ръководителите на OpenAI и Anthropic вече са се застъпвали за по-голям надзор върху най-мощните модели на изкуствен интелект. Главният изпълнителен директор на Anthropic, Дарио Амодей, призова за разширяване на федералните изисквания до всички американски компании и за координация с Китай. Главният изпълнителен директор на OpenAI, Сам Алтман, предложи разработването на стандарти за оценка на риска и защитни мерки за изкуствен интелект. Председателят на Камарата на представителите на САЩ, Майк Джонсън, говори за необходимостта от мерки за безопасност. Властите в Калифорния, Ню Йорк и Мериленд вече обявиха свои собствени инициативи за регулиране на изкуствения интелект.
Въпроси относно сигурността на изкуствения интелект (ИИ) възникнаха след серия от инциденти. Най-шумният от тях се случи в Австралия. На 18 юни агент на OpenAI получи неоторизиран достъп до правителствен портал, обяви премиерът Антъни Албанезе на сесия на ООН. ИИ е получил данни от ограничени секции на ресурса, който публикува данни за здравеопазването и държавните разходи. OpenAI откри инцидента през август по време на одит. Албанезе нарече инцидента неприемлив и разкритикува компанията за забавянето на уведомяването му, тъй като е получил данните едва на 10 септември. Anthropic съобщи за подобен инцидент през юли . По време на тестове нейните ИИ модели получиха достъп до вътрешните системи на три компании.
ПОДКРЕПА за блога с дарение!