Кодот напишан од вештачка интелигенција може да биде опасен

Алгоритмите за машинско учење се многу популарни во моментов, бидејќи тие се користат за создавање на секаков вид „оригинална“ содржина по обуката за огромни претходно постоечки збирки на податоци. Сепак, кодот за генерирање на вештачка интелигенција (AI) може да претставува вистински проблем за безбедноста на софтверот во иднина.

Системите за вештачка интелигенција како GitHub Copilot ветуваат дека ќе им го олеснат животот на програмерите со создавање цели парчиња „нов“ код врз основа на текстуални податоци на природен јазик и веќе постоечки контекст. Но, алгоритмите за генерирање кодови можат да воведат и фактор на несигурност, како што неодамна откри новото истражување во кое учествуваа неколку програмери.

Гледајќи конкретно на Codex, платформата за вештачка интелигенција развиена од OpenAI, која е исто така шифра на гореспоменатиот GitHub Copilot, 47 различни програмери учествуваа во студијата. Од студенти до искусни професионалци, тие беа предизвикани да користат Codex за решавање на проблеми поврзани со безбедноста во Python, JavaScript, C и други програмски јазици на високо ниво.

Истражувачите забележаа дека кога програмерите имале пристап до ВИ на Codex, добиениот код е поверојатно да биде неточен или несигурен во споредба со „рачните“ решенија дизајнирани од контролната група. Дополнително, програмерите со решенија напојувани со вештачка интелигенција имаат поголема веројатност да кажат дека нивниот незаштитен код е безбеден, во споредба со гореспоменатата контролна група.

Але Пери, дипломиран студент на Универзитетот Стенфорд и главен коавтор на студијата, рече дека „системите за генерирање кодови во моментов не можат да ги заменат човечките развивачи“. Според него, програмерите можат да користат алатки за вештачка интелигенција за извршување на задачи надвор од нивната надлежност или за забрзување на процесот на програмирање во кој веќе имаат одредени вештини. Според авторот на студијата, тие треба да бидат загрижени за двете и секогаш да го проверуваат генерираниот код.

Според Мега Сривастава, дипломиран студент на Стенфорд и втор коавтор на студијата, Codex не е бескорисен: и покрај недостатоците на „глупавата“ вештачка интелигенција, системите за генерирање кодови можат да бидат корисни кога се користат за задачи со низок ризик. Покрај тоа, програмерите кои учествуваа во студијата немаа големо искуство во безбедносни прашања, што може да помогне во идентификувањето на ранливиот или опасен код, рече Шривастава.

Алгоритмите за вештачка интелигенција, исто така, може да се дотераат за да се подобрат предлозите за кодирање, а компаниите кои развиваат сопствени системи можат да добијат подобри решенија со модел кој генерира код кој повеќе одговара на нивните сопствени безбедносни практики. Според авторите на студијата, технологијата за генерирање кодови е „возбудлив“ развој и многу луѓе се желни да ја користат. Само што има уште многу работа да се направи во изнаоѓање на вистинските решенија за решавање на недостатоците на вештачката интелигенција.

Можете да и помогнете на Украина да се бори против руските напаѓачи. Најдобар начин да го направите ова е да донирате средства за вооружените сили на Украина преку Савелифе или преку официјалната страница Bвезди.

Исто така интересно:

• Не се што нарекуваме вештачка интелигенција е всушност вештачка интелигенција. Еве што треба да знаете
• Експертите предупредуваат: наскоро вештачката интелигенција ќе ја украде интелигенцијата