Технолошките лидери и истакнати истражувачи за вештачка интелигенција потпишаа отворено писмо, кој ги повикува лабораториите и компаниите за вештачка интелигенција „веднаш да ја прекинат“ својата работа.
Потписниците, вклучувајќи ги Стив Возниак и Илон Маск, се согласуваат дека ризиците бараат пауза од најмалку шест месеци од производството на технологии кои го надминуваат опсегот GPT-4. Ова е за да се извлече радоста и задоволството од системите за вештачка интелигенција што постојат сега, и да им се овозможи на луѓето да се прилагодат на нив и да видат дека се корисни.
Во писмото се додава дека е потребна претпазливост и промисленост за да се обезбеди безбедноста на системите со вештачка интелигенција, но тие се игнорираат. Референцата за GPT-4, нов OpenAI модел кој може да одговори со текст на пишани или визуелни пораки, доаѓа додека компаниите се тркаат да изградат софистицирани системи за разговор користејќи ја технологијата. Пример, Microsoft неодамна потврди дека неговиот ажуриран пребарувач Bing работи на моделот GPT-4 повеќе од 7 недели, а Google неодамна официјално го претстави Бард – сопствен генеративен систем за вештачка интелигенција базиран на LaMDA.
Загриженоста за вештачката интелигенција постои долго време, но трката за прифаќање на најнапредната технологија е очигледна вештачка интелигенција првото е веќе алармантно. „Во последниве месеци, лабораториите за вештачка интелигенција беа вовлечени во неконтролирана трка за развој и имплементација на се помоќни дигитални умови кои никој - дури ни нивните автори - не може да ги разбере, предвиди или веродостојно да ги контролира“, се вели во писмото.
Писмото е објавено од непрофитната организација Future of Life Institute (FLI), која работи на минимизирање на глобалните катастрофални и егзистенцијални ризици и злоупотреба на новите технологии, особено вештачката интелигенција. Претходно, Маск донираше 10 милиони долари на FLI за безбедносно истражување на вештачката интелигенција. Покрај него и Возниак, меѓу потписниците се и голем број светски лидери во областа на вештачката интелигенција, како што се претседателот на Центарот за вештачка интелигенција и дигитална политика Марк Ротенберг, физичарот од МИТ и претседател на ФЛИ Макс Тегмарк и авторот Јувал Ноа Харари.
Харари, исто така, беше коавтор на авторски текст во Њујорк Тајмс минатата недела, предупредувајќи за ризиците поврзани со вештачка интелигенција, на кој со него работеа основачите на Центарот за хумани технологии и другите потписници на отвореното писмо, Тристан Харис и Аза Раскин.
Повикот следи по минатогодишното истражување на повеќе од 700 истражувачи за машинско учење во кое речиси половина рекле дека има околу 10% шанси за „исклучително лоши последици“ од вештачката интелигенција, вклучително и човечко истребување. На прашањето за безбедноста во истражувањето на вештачката интелигенција, 68% од испитаниците одговориле дека треба да се направи повеќе или многу повеќе.
Прочитајте исто така: