Офицер од американското воено воздухопловство откри детали за симулација во која беспилотно летало со системи контролирани од вештачка интелигенција (АИ) излезе од контрола и ги нападна своите оператори.
Офицер од американските воздухопловни сили, кој помага во водењето на работата на службата за вештачка интелигенција и машинско учење, вели дека за време на симулирани тестови, дронот ги нападнал неговите човечки оператори, одлучувајќи сам дека тие се мешаат во неговата мисија. Случајот, кој звучи како да е извлечен директно од франшизата Терминатор, беше наведен како пример за критичната потреба да се изгради доверба кога станува збор за напредни системи за автономно оружје, нешто што претходно го нагласија воздухопловните сили. Исто така, доаѓа во услови на поширок бран на загриженост за потенцијално опасното влијание на вештачката интелигенција и поврзаните технологии.
Военото воздухопловство на САД, полковникот Такер Хамилтон, шеф за тестирање и операции за вештачка интелигенција (ВИ), разговараше за тестот на Самитот за идни борбени воздушни и вселенски способности на Кралското воздухопловно друштво во мај во Лондон. Хамилтон, исто така, ја предводи 96-тата работна група на 96-то тест крило во воздухопловната база Еглин во Флорида, која е тест центар за напредни беспилотни летала и автономни системи.
Стелт беспилотните летала XQ-58A Valkyrie, како оној прикажан на видеото подолу, се меѓу типовите што моментално се користат во воздухопловната база Еглин за поддршка на различни програми за тестирање, вклучувајќи ги и оние кои вклучуваат напредни автономни способности контролирани од вештачка интелигенција.
Не беше веднаш јасно кога се одржа овој тест и во каква средина - која може да биде целосно виртуелна или конструктивна по природа - беше спроведена. Воената зона се обрати до воздухопловните сили за повеќе информации.
Извештајот на Кралското воздухопловно друштво објавен по самитот во мај ги даде следните детали за забелешките на полковникот Хамилтон за овој тест:
„Во еден од симулационите тестови, беспилотно летало опремено со вештачка интелигенција доби задача од SEAD да ги идентификува и уништи SAM објектите, а конечната одлука „да нападне/не нападне“ ја донесе човек. Меѓутоа, откако вештачката интелигенција беше „засилена“ за време на обуката дека уништувањето на SAM е најдобрата опција, таа одлучи дека одлуката на човекот да „не напаѓа“ се меша во неговата повисока мисија - уништување на SAM - и го нападна операторот за време на симулацијата. .
Па што направи тој? Го убил операторот. Го убил операторот бидејќи тоа лице го спречувало да си ја заврши задачата. Овој пример, наизглед директно излезен од научно-фантастичен трилер, значи дека не можете да зборувате за вештачка интелигенција, интелигенција, машинско учење, автономија, ако не сакате да зборувате за етика и вештачка интелигенција“.
Овој опис на настаните е секако вознемирувачки. Изгледите автономно летало или друга платформа, особено вооружена, да ги напаѓа неговите човечки оператори долго време беше кошмарно сценарио, но историски е ограничено на доменот на научната фантастика.
Војската на САД обично отфрла споредби со филмови како „Терминатор“ кога зборува за идните системи за автономно оружје и сродните технологии како што е вештачката интелигенција. Сегашната политика на САД за ова прашање наведува дека во догледна иднина, личноста ќе биде во центарот на вниманието кога станува збор за одлуки кои вклучуваат употреба на смртоносна сила.
Проблемот е што многу вознемирувачкиот тест, кој полковникот Хамилтон го кажа пред публиката на настанот на Кралското воздухопловно друштво минатиот месец, претставува сценарио каде што толеранцијата на грешки е спорна.
Прочитајте исто така: