Според родител кој објавил слики од екранот на историјата на активностите на Alexa, гласовниот асистент на Амазон, кога детето побарало да понуди предизвик, дал пример за смртоносен експеримент со електрична енергија, вадејќи го неговиот опис од контекст на случајна статија. Колумната Echo зборуваше за експеримент популарен меѓу обожавателите на TikTok со употреба на паричка и полнач за паметен телефон - бројни инциденти, повреди и пожари по неговото спроведување беа пријавени од различни медиуми повеќе од еднаш. Очигледно, уредот ја добил идејата за овој предизвик од написот кој го опишал како опасен, цитирајќи извештај за наводен постоечки предизвик на TikTok.
Според скриншот направен од Кристин Ливдал, кога побарале „да ми покаже задача“, Ехо одговорил: „Еве нешто што најдов на интернет“. Според ourcommunitynow.com, задачата е едноставна: „вметнете го полначот на телефонот околу половина во штекерот, а потоа допрете ги голите иглички со некој денар“.
Во изјава за Би-Би-Си, Амазон го потврди однесувањето на Алекса, велејќи: „Штом дознавме за оваа грешка, веднаш презедовме акција за да ја поправиме“. Ливдал вчера твитна дека барањето за предизвик повеќе не функционира. Корисниците на веб исто така го тестираа барањето со Alexa и добија сличен резултат.
OMFG. сликаtwitter.com/HgGgrLbdS8
— Кристин Ливдал (@klivdahl) Декември 26, 2021
Амазон не е единствената компанија која наиде на проблеми при анализа на веб-содржини. Во октомври, еден корисник пријави дека Google прикажува потенцијално опасни совети во еден од неговите фрагменти ако напишете „има напад, што да правите“ во Google - информациите се земени од дел од веб-страницата каде што се опишува што не да се направи ако некој има напад. Сепак, корисниците пријавиле други слични проблеми, вклучително и еден корисник кој пријавил дека Google враќа резултати за ортостатска хипотензија кога барал ортостатска хипертензија, а друг објавил скриншот од Google кој покажува ужасни совети за утеха на ожалостен човек по налогот „Мило ми е што во ред си“ или „Не биди тажен! Расположи се!".
Резимето за пребарување на Google наспроти вистинската страница сликаtwitter.com/OJxt1FrBqh
— мека.липа (｡•̀ᴗ-)✧ (@меко) Октомври 16, 2021
Исто така, видовме дека предупредувањата за опасно однесување се зголемуваат за да го направат проблемот поголем отколку што беше - претходно овој месец, некои училишни области во САД беа ставени во заклучување по извештаите за закани со пукање на TikTok. Се покажа дека социјалната бура е предизвикана главно од фактот што луѓето зборувале за заканите, многу повеќе од заканите што всушност постоеле. Во случајот на Алекса, алгоритмот го избра описниот дел од предупредувањето и го засили без оригиналниот контекст. Иако родителите беа таму веднаш да интервенираат, лесно е да се замисли ситуација кога тоа не е така и последиците.
Ливдал на Твитер напиша дека ја искористила можноста да „дискутира за безбедноста на интернет со своето дете и да не верува во она што го читате без истражување и проверка“, што ви предлагаме да го направите и вие.
Прочитајте исто така: