Claude a celá sféra pokročilých modelov umelej inteligencie v súčasnosti prechádzajú turbulentným obdobím plným regulačných zásahov. Renomovaný akademický magazín The Conversation priniesol detailnú správu o tom, ako vládne rozhodnutia dokážu zo dňa na deň ochromiť distribúciu špičkových technológií verejnosti.
Claude a politické nezhody s Trumpovou administratívou
Laboratórium Anthropic muselo 12. júna náhle pozastaviť prístup k verziám Fable 5 a Mythos 5, ktoré vývojári predstavili iba tri dni predtým. Biely dom uplatnil prísnu smernicu o kontrole exportu, pričom zakázal používanie týchto systémov komukoľvek, kto nevlastní štátne občianstvo USA. Verzia Mythos predstavuje najvýkonnejší produkt spoločnosti, ktorý vládne zložky už v apríli označili za príliš nebezpečný pre okamžité plošné vydanie kvôli jeho schopnostiam v oblasti hackingu. Vývojári ho preto poskytli iba vybraným americkým korporáciám na opravu kritických digitálnych systémov. Pre širokú verejnosť pripravili verziu Fable s pridanými bezpečnostnými poistkami, no úrady ju takmer okamžite stiahli z obehu.
Tento krok predstavuje vyvrcholenie eskalujúceho konfliktu medzi technologickým laboratóriom a Trumpovou administratívou, ktorý prebieha od začiatku roka 2025. Vládni predstavitelia obviňujú spoločnosť z vytvárania ideologicky zaujatej umelej inteligencie a samotného šéfa firmy Daria Amodeiho označujú za fanatika. Spory sa pôvodne týkali regulácie a polovodičovej politiky, no situácia vyostrila, keď Anthropic odmietol poskytnúť svoje kapacity Pentagonu na domáce sledovanie a autonómne zbraňové systémy. Ministerstvo obrany následne pohrozilo, že firmu zaradí na zoznam rizikových dodávateľov, čo by armádnych partnerov prinútilo prerušiť s ňou akékoľvek obchodné vzťahy.
Obchádzanie ochrany a alchýmia strojového učenia
Hlavný dôvod vládneho zásahu spočíva v obave z takzvaného jailbreaku, teda metódy na obchádzanie naprogramovaných bezpečnostných zábran. Tieto poistky bežne filtrujú požiadavky užívateľov a pri podozrení ich presmerujú na slabší model. Podľa vyjadrení firmy Anthropic získala vláda indície, že útočníci dokážu tieto filtre obísť a získať citlivé informácie využiteľné pre kybernetické útoky. Experti poukazujú na to, že ochrana veľkých jazykových modelov nie je nepriestrelná, keďže závisí od schopnosti systému správne interpretovať zámery človeka. Na prelomení bariér navyše neustále pracuje organizovaná online komunita známa ako Undersphere.
Výskum, ktorý viedol k vládnemu zákazu, vypracovali konkurenční inžinieri zo spoločnosti Amazon, ktorá do projektu Anthropic zároveň investovala obrovský kapitál. Riziko potvrdil aj anonymný výskumník s prezývkou Pliny the Liberator, ktorý do 48 hodín od vydania publikoval kompletný systémový príkaz modelu Fable 5 na platformách X a GitHub.
Najväčší problém bezpečnosti moderných sietí spočíva v tom, že vývojári dodnes presne nerozumejú ich vnútornému fungovaniu. Systémy majú miliardy parametrov a podľa akademických expertov z Oxfordu fungujú podstatne lepšie, než by teoreticky mali. Súčasný vývoj tak pripomína skôr stredovekú alchýmiu postavenú na pokusoch a omyloch, kvôli čomu zostáva správanie modelov do určitej miery nepredvídateľné aj pre samotných tvorcov.
