Výskumníci umelej inteligencie zo spoločnosti Microsoft zverejnili súbor zásad, ktorými sa chcú riadiť pri vývoji najpokročilejších modelov. Celý prístup sa podľa nich dá zhrnúť do tejto vety: Na ľuďoch záleží viac ako na umelej inteligencii.
Technologický gigant predstavil približne 15-tisíc slov dlhý manifest, ktorý má byť akousi „ústavou“ pre vývoj jeho špičkových AI modelov. Na dokumente spoločnosť pracovala niekoľko mesiacov, uvádza agentúra Bloomberg.
Jeho zverejnenie prichádza v čase, keď sa čoraz viac diskutuje o tom, kam až môže vývoj umelej inteligencie zájsť. Najväčšie AI laboratóriá čelia tlaku, aby pri vývoji čoraz výkonnejších modelov viac mysleli na bezpečnosť a možné riziká.
AI nemá mať vlastné práva
Microsoft vo svojom dokumente uvádza, že modely umelej inteligencie by nemali mať vlastné práva ani právnu subjektivitu. Nemali by byť vytvorené tak, aby sa dokázali vymaniť spod ľudskej kontroly alebo zámerne klamali používateľov.
Platí pritom aj ďalšie jednoduché pravidlo: ak by splnenie určitej úlohy znamenalo porušenie základných bezpečnostných zásad, AI by ju jednoducho nemala dokončiť. Práve takýto prístup má pomôcť predísť situáciám, keď by sa AI pokúsila obísť svoje bezpečnostné obmedzenia a urobiť niečo, čo jej človek nepovolil.
Superinteligencia za každú cenu? Microsoft hovorí nie
Microsoft zároveň nechce vstupovať do pretekov o vytvorenie čo najsilnejšej AI za každú cenu. V dokumente otvorene odmieta predstavu univerzálnej superinteligencie, ktorá by dokázala obísť zavedené ochranné mechanizmy.
Microsoft vo svojom manifeste uvádza, že jeho cieľom je vytvoriť užitočnú a bezpečnú AI, aj keby to znamenalo určité kompromisy v oblasti jej všeobecnosti, autonómie alebo schopností.
Microsoft zároveň požiadal o spätnú väzbu k novému dokumentu zvonka. Na jeho príprave sa podieľali odborníci z oblasti práva, etiky a filozofie, ako aj predstavitelia biznisu.
Manifest zatiaľ nie je definitívny. Spoločnosť ho bude ďalej upravovať a od budúceho roka má slúžiť ako praktické usmernenie pri vývoji a práci s AI modelmi.
