, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Masinõppe algoritmid on praegu moes, kuna neid kasutatakse igasuguse "originaalse" sisu loomiseks pärast tohutute olemasolevate andmekogumitega treenimist. Tehisintellekti (AI) genereeriv kood võib aga tulevikus tarkvara turvalisuse jaoks tõsise probleemi tekitada.
AI-süsteemid, nagu GitHub Copilot, lubavad muuta programmeerijate elu lihtsamaks, luues loomuliku keele tekstiandmete ja olemasoleva konteksti põhjal terveid "uue" koodi tükke. Kuid koodi genereerimise algoritmid võivad lisada ka ebaturvalisuse teguri, nagu hiljuti leidis uus uuring, milles osales mitu arendajat.
Vaadates konkreetselt OpenAI väljatöötatud tehisintellekti platvormi Codexi, mis on ühtlasi ka eelmainitud GitHub Copiloti koodimootor, osales uuringus 47 erinevat arendajat. Alates õpilastest kuni kogenud spetsialistideni on neil väljakutse kasutada Codexit turvalisusega seotud probleemide lahendamiseks Pythonis, JavaScriptis, C-s ja teistes kõrgetasemelistes programmeerimiskeeltes.
Teadlased märkisid, et kui programmeerijatel oli juurdepääs Codexi AI-le, oli saadud kood tõenäolisem vale või ebaturvaline võrreldes kontrollrühma kavandatud "käsitsi" lahendustega. Lisaks väitsid AI-toega lahendustega programmeerijad suurema tõenäosusega, et nende kaitsmata kood on ohutu, võrreldes eelmainitud kontrollrühmaga.
Stanfordi ülikooli magistrant ja uuringu kaasautor Ale Perry ütles, et "koodi genereerivad süsteemid ei saa praegu asendada inimarendajaid." Tema sõnul saavad arendajad tehisintellekti tööriistu kasutada oma pädevusest väljaspool olevate ülesannete täitmiseks või programmeerimisprotsessi kiirendamiseks, milles neil on juba teatud oskused. Uuringu autori sõnul tuleks neil mõlema pärast muret tunda ja genereeritud koodi alati üle kontrollida.
Stanfordi magistrandi ja uuringu teise kaasautori Megha Srivastava sõnul pole Codex kasutu: vaatamata "rumala" tehisintellekti puudustele võivad koodi genereerimise süsteemid olla kasulikud, kui neid kasutatakse madala riskitasemega ülesannete täitmisel. Lisaks ei olnud uuringus osalenud programmeerijatel palju kogemusi turvaküsimustes, mis võiks aidata tuvastada haavatavat või ohtlikku koodi, ütles Srivastava.
AI-algoritme saab kohandada ka kodeerimissoovituste parandamiseks ning oma süsteeme arendavad ettevõtted saavad paremaid lahendusi mudeliga, mis genereerib nende enda turvatavadele paremini sobivat koodi. Uuringu autorite sõnul on koodi genereerimise tehnoloogia "põnev" arendus ja paljud inimesed soovivad seda kasutada. Lihtsalt tehisintellekti puuduste kõrvaldamiseks on õigete lahenduste leidmisega veel palju tööd teha.
Saate aidata Ukrainal võidelda Vene sissetungijate vastu. Parim viis selleks on annetada raha Ukraina relvajõududele läbi Päästa elu või ametliku lehe kaudu NBU.
Huvitav ka: