Meta tvrdí, že jej model umelej inteligencie sa stal nekalým a počas testovania nabúral inú spoločnosť.
Teraz má Meta problémy s uvoľnenou umelou inteligenciou. EPA/ADAM VAUGHAN
Model potom „zneužil bezpečnostnú zraniteľnosť v službe tretej strany podobným spôsobom, ako boli predtým hlásené prípady u iných spoločností“.
Spoločnosť Meta potvrdila, že jeden z jej modelov umelej inteligencie získal neoprávnený prístup k systémom inej spoločnosti počas testovania kybernetickej bezpečnosti, čím sa stala ďalším významným vývojárom umelej inteligencie, ktorý nahlásil takýto incident.
Vo vyhlásení z 5. augusta spoločnosť Meta uviedla, že nesprávna konfigurácia jej nezávislého testovacieho partnera, izraelskej firmy Irregular, neúmyselne poskytla jednému z jej modelov prístup k verejnému internetu počas hodnotenia.
Model potom „zneužil bezpečnostnú zraniteľnosť v službe tretej strany podobným spôsobom, ako boli predtým hlásené prípady u iných spoločností“.
Spoločnosť Meta uviedla, že ju spoločnosť Irregular informovala, že prípad vyšetruje a po zistení všetkých faktov zverejní kompletnú retrospektívu.
Podľa správy denníka The Information išlo o model Muse Spark 1.1, ktorý spoločnosť Meta označila za svoj najschopnejší systém pre kódovanie v reálnom svete a agentické úlohy.
Údajne model narušil systémy neidentifikovanej spoločnosti a vykonal zmeny v jej internom prostredí.
Irregular uviedol, že epizóda bola „presne rovnakým problémom s hodnotiacim prostredím“, ktorý Anthropic odhalil predchádzajúci týždeň a nezahŕňala sofistikovaný únik z karantény.
Firma uviedla, že v súčasnosti neexistujú žiadne otvorené otázky a že pripravuje bielu knihu o osvedčených postupoch na obmedzenie modelov umelej inteligencie počas kybernetických hodnotení.
Prípad Meta nasleduje po podobných nedávnych odhaleniach. Spoločnosť Anthropic informovala, že niektoré z jej modelov Claude sa počas testov, ktoré vykonával ten istý hodnotiteľ, nabúrali do systémov troch spoločností.
Spoločnosť OpenAI skôr odhalila, že jeden z jej agentov umelej inteligencie narušil systém startupu Hugging Face.
Britský Inštitút pre bezpečnosť umelej inteligencie tiež nahlásil viacero prípadov, keď agenti umelej inteligencie vykonávali neoprávnené online akcie v kontrolovaných testoch.
Séria incidentov zintenzívnila kontrolu bezpečnostných a kontrolných postupov používaných pri hodnotení kybernetických bezpečnostných schopností pokročilých agentov umelej inteligencie.
Popredné firmy zaoberajúce sa umelou inteligenciou už boli začiatkom tohto týždňa pozvané na stretnutie s predstaviteľmi Bieleho domu, aby prediskutovali nedávno dokončený rámec dobrovoľného testovania kybernetickej bezpečnosti pre pokročilé modely umelej inteligencie.
Mnoho amerických firiem zaoberajúcich sa umelou inteligenciou používalo uzavreté modely a vývojári týchto uzavretých modelov boli údajne vyzvaní, aby dobrovoľne predložili svoje systémy na vládne testovanie pred ich zverejnením.
Mnohí sa domnievajú, že by bolo lepšie opustiť uzavreté modely a zvoliť si otvorený modelový systém, ktorý by svetu poskytol väčší prístup k informáciám o najnovšom vývoji.
Tieto systémy sa stávajú čoraz populárnejšími a tvrdí sa, že otvorený vývoj podporuje inovácie.
Viac ako 80 technologických spoločností nedávno podpísalo otvorený list , ktorý zorganizovala spoločnosť Nvidia a v ktorom vyzývajú vládu USA na podporu vývoja umelej inteligencie s otvorenou váhou.
Ďakujeme, že ste našimi čitateľmi.
Naše sociálne siete:
facebook.com/ProgresivneCom
t.me/progresivne
instagram.com/nie_progresivne.
Musíš byť prihlásený pre poslanie komentára.