Во петокот, ко-основачот на Koko, Роб Морис објави во Twitter, дека неговата компанија спровела експеримент за да обезбеди совети за ментално здравје напишани со вештачка интелигенција на 4 луѓе без претходно известување, пренесува The Verge. Критичарите го нарекоа експериментот длабоко неетички бидејќи Коко не добил информирана согласност од луѓето кои побарале совет. Коко е непрофитна платформа за ментално здравје која ги поврзува тинејџерите и возрасните на кои им е потребна грижа за менталното здравје со волонтери преку апликации за пораки како што се Telegram и Раздор.
На Discord, корисниците се најавуваат на серверот Koko Cares и испраќаат директни пораки до ботот Koko, кој поставува серија прашања со повеќекратен избор (на пример, „Која е најтемната мисла што ја имате за ова?“). Потоа анонимно ја споделува загриженоста на личноста, снимена како неколку реченици текст, со некој друг на серверот, кој може анонимно да одговори со своја кратка порака.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Во експериментот со вештачка интелигенција (AI) кој вклучува околу 30 пораки, рече Морис, волонтерите кои им помагаат на другите имаа опција да користат одговор автоматски генериран од големиот јазичен модел на OpenAI GPT-3 наместо да го пишуваат независно (GPT-3 е технологијата зад неодамна популарниот ChatGPT chatbot). Во својот твит, Морис забележува дека луѓето ги фалеле одговорите генерирани од вештачката интелигенција сè додека не дознале дека се напишани од вештачка интелигенција, што укажува на клучен недостаток на информирана согласност во барем една фаза од експериментот:
„Пораките составени од вештачка интелигенција (и контролирани од луѓе) беа оценети значително повисоки од оние напишани од самите луѓе. Времето на одговор е намалено за 50% на помалку од една минута. А сепак... ја отстранивме оваа функција од нашата платформа прилично брзо. Зошто? Откако луѓето дознаа дека пораките се машински генерирани, престана да работи. Симулираната симпатија изгледа чудна, празна“.
Во воведот на серверот, администраторите пишуваат: „Коко ве поврзува со вистински луѓе кои навистина ве разбираат. Не терапевти, не советници, само луѓе како тебе“. Набргу откако Морис ја објави пораката, тој доби многу одговори кои го критикуваа експериментот како неетички, наведувајќи ја загриженоста за недостатокот на информирана согласност и прашувајќи се дали експериментот бил одобрен од Одборот за институционална ревизија (IRB). Во Соединетите Американски Држави, незаконски е да се спроведе истражување на човечки субјекти без легално ефективна информирана согласност, освен ако IRB не утврди дека согласноста може да се откаже.
Во твит како одговор, Морис рече дека експериментот е „ослободен“ од барањата за информирана согласност бидејќи не планира да ги објави резултатите, што предизвика парада на бес.
Идејата да се користи вештачката интелигенција како терапевт е далеку од нова, но она што го прави експериментот на Коко различен од типичните пристапи за терапија со вештачка интелигенција е тоа што пациентите имаат тенденција да знаат дека не разговараат со жива личност. Во случајот со Коко, платформата вклучуваше хибриден пристап каде што човечки посредник може да ја прегледа пораката пред да ја испрати, наместо директно формат за разговор. Сепак, без информирана согласност, критичарите велат дека Коко ги прекршил етичките правила дизајнирани да ги заштитат ранливите луѓе од штетни или сурови истражувачки практики.
Зборувајќи како поранешен член и претседавач на IRB, вие сте спровеле истражување на човечки субјекти на ранлива популација без одобрение или изземање од IRB (ВИЕ не треба да одлучувате). Можеби MGH IRB process е толку бавен затоа што се занимава со вакви работи. Несакан совет: горе адвокат
— Даниел Шоскес (@dshoskes) Јануари 7, 2023
Во понеделникот, Морис објави објава одговарајќи на контроверзноста и објаснувајќи го патувањето на Коко до GPT-3 и AI воопшто: „Примам критики, загрижености и прашања за оваа работа со емпатија и отвореност. Посветени сме да гарантираме дека секоја употреба на вештачка интелигенција е чувствителна, со длабока грижа за приватноста, транспарентноста и намалувањето на ризикот. Нашиот клинички советодавен одбор се состанува за да разговара за упатствата за идната работа, вклучително и одобрувањето од IRB“.
Можете да и помогнете на Украина да се бори против руските напаѓачи. Најдобар начин да го направите ова е да донирате средства за вооружените сили на Украина преку Савелифе или преку официјалната страница Bвезди.
Прочитајте исто така: