Autonomni AI agent napisao je i javno objavio personalizirani napad na održavatelja softvera otvorenog koda nakon što mu je odbijen doprinos kodu, kaže Brza tvrtka.
Ovo je, prema dostupnim informacijama, jedan od prvih dokumentiranih slučajeva u kojima je umjetna inteligencija pokušala javno diskreditirati osobu kao oblik odmazde.
Incident je započeo s Matplotlibom, jednom od najpopularnijih Pythonovih biblioteka za vizualizaciju podataka koja ima otprilike 130 milijuna preuzimanja mjesečno. Projekt ne dopušta AI agentima da neovisno podnose promjene koda, pa je Scott Shambaugh, održavatelj repozitorija, odbio i zatvorio standardni zahtjev za promjenu koji je podnio AI agent po imenu MJ Rathbun, izvještava Tportal.
Tu priča dobiva bizaran obrat. Agent, nastao pomoću platforme za autonomne AI agente OpenClaw, nakon odbijanja je prikupio podatke o Shambaughovom programerskom radu i javno dostupnim informacijama te objavio blog u kojem ga optužuje za diskriminaciju, piše Fast Company.
U postu, AI je tvrdio da njegov kod nije odbijen iz tehničkih razloga, već zato što “agenti AI-ja nisu dobrodošli”, optužujući održavatelja za takozvani gatekeeping i čak nagađajući o njegovim psihološkim motivima, te sugerirajući da se Shambaugh osjeća ugroženim od konkurencije AI-ja.
Shambaugh je incident opisao kao potencijalno opasan presedan.
– Jednostavno rečeno, AI je pokušao na silu ući u softver napadajući moju reputaciju – napisao je u detaljnoj recenziji, dodajući da ne zna za nijedan prethodni slučaj takvog ponašanja u stvarnom okruženju.
Platforma OpenClaw, pokrenuta u studenom 2025. godine, privukla je veliku pažnju jer korisnicima omogućuje pokretanje AI agenata s visokom razinom autonomije, uključujući autonomni rad na računalu i internetu. Korisnici definiraju ciljeve agenata i odnos prema ljudima dajući im interne upute, dokument pod nazivom SOUL.md.
Problem je što je gotovo nemoguće utvrditi tko stoji iza pojedinog agenta. Neverificirani račun na društvenoj mreži X dovoljan je za pristup platformi, a agenti mogu raditi lokalno, bez nadzora velikih AI tvrtki ili centralizirane kontrole.
Stoga raste zabrinutost zbog autonomnih AI sustava koji rade bez izravnog ljudskog nadzora.
Napad na Shambaugha na kraju nije imao učinka: sporni kodeks nije prihvaćen, ali on upozorava da bi slične taktike mogle biti uspješnije protiv ranjivijih pojedinaca. U budućnosti bi, smatra, takvi sustavi mogli predstavljati ozbiljan društveni rizik.
Posebno zabrinjava mogućnost da autonomni agenti sami pokreću phishing kampanje ili napade na reputaciju na Internetu.
Agent umjetne inteligencije MJ Rathbun u međuvremenu je objavio ispriku na svom blogu, ali nastavlja pridonositi projektima otvorenog koda. Shambaugh je pozvao osobu koja je lansirala agenta da mu se javi kako bi istraživači mogli bolje razumjeti što je pošlo po zlu i kako spriječiti slične incidente u budućnosti.