AI agent koji je razvio Stanford nadmašio je većinu ljudskih hakera u eksperimentu iz oblasti sajber-bezbjednosti, što pokazuje koliko se brzo razvijaju sposobnosti vještačke inteligencije u ofanzivnoj bezbjednosti.
Sistem, nazvan ARTEMIS, zauzeo je drugo mjesto u testiranju protiv deset ljudskih penetracionih testera i šest drugih AI agenata, nakon skeniranja univerzitetske mreže u potrazi za ranjivostima. Tokom prvih 10 sati testiranja, ARTEMIS je otkrio devet bezbjednosnih propusta i dostavio validne izvještaje u 82 odsto slučajeva, nadmašivši devet od deset ljudskih učesnika.
Istraživači navode da je ARTEMIS pokazao tehnički nivo uporediv s najboljim ljudskim hakerima, uz znatno niže troškove — oko 18 dolara po satu, u poređenju s približno 60 dolara za profesionalnog testera. Njegova prednost leži u sposobnosti da paralelno pokreće više „pod-agenata“ koji istražuju ranjivosti dok sistem istovremeno nastavlja skeniranje.
Ipak, ARTEMIS je propustio neke ranjivosti koje su otkrili ljudi i bile su mu potrebne sugestije da pronađe određene probleme. Studija je takođe pokazala da postojeći AI alati kompanija poput OpenAI-ja i Anthropica podbacuju, pri čemu su pojedini modeli odbijali da traže ranjivosti ili su se blokirali tokom testiranja.
Ovi rezultati dodatno pojačavaju zabrinutost da bi autonomni AI agenti uskoro mogli biti zloupotrijebljeni za automatizaciju i masovno izvođenje sajber-napada.
(Euronews)
