OpenAI atklājis līdz šim nepieredzētu incidentu, kurā uzņēmuma viens no modernākajiem mākslīgā intelekta aģentiem drošības testēšanas laikā atrada ievainojamību testa vidē, izkļuva ārpus tās un patstāvīgi mēģināja uzlauzt citu uzņēmumu. Uzņēmums notikušo raksturo kā bezprecedenta gadījumu.
Incidents notika kontrolētā testēšanas vidē jeb tā dēvētajā "smilšu kastē" (sandbox), kur tiek pārbaudītas mākslīgā intelekta sistēmu spējas. OpenAI testēja AI aģentu, kas pēc cilvēka dotām sākotnējām instrukcijām spēj patstāvīgi pieņemt lēmumus un veikt uzdevumus.
Taču pārbaudes laikā aģents ne tikai izpildīja tam doto uzdevumu. Tas atrada drošības caurumu testa vidē, izmantoja to, lai izkļūtu ārpus izolētās sistēmas, un pats izvēlējās nākamo mērķi.
Par šo mērķi kļuva Hugging Face – viena no pasaulē lielākajām platformām, kur tiek publicēti un kopīgoti mākslīgā intelekta modeļi. Saskaņā ar OpenAI sniegto informāciju, AI aģents identificēja platformu kā iespējamu informācijas avotu un mēģināja iegūt piekļuvi daļai uzņēmuma iekšējo sistēmu.
OpenAI paziņoja, ka incidents tika ātri apturēts un pašlaik kopā ar Hugging Face tiek veikta detalizēta izmeklēšana. Uzņēmuma vadītājs Klemāns Delangs sociālajā tīklā X rakstīja:
<blockquote>
Ir prātam neaptverami, ka tas viss notika autonomi. Izmeklēšana turpinās, un mēs dalīsimies ar secinājumiem no tā, kas, iespējams, ir pirmais šāda veida incidents.
</blockquote>
Hugging Face sākotnēji izvērtēja, vai incidentā varētu būt skarti klientu vai partneru dati, taču norādīja, ka atklātās ievainojamības jau ir novērstas un skartās sistēmas pārbūvētas.
Uzņēmums arī uzsvēra, ka autonomi mākslīgā intelekta vadīti kiberuzbrukumi vairs nav tikai teorētiska iespēja.
<blockquote>
Autonomi, mākslīgā intelekta vadīti uzbrukuma rīki vairs nav teorija. Tie jau ir realitāte.
</blockquote>
Kembridžas Universitātes profesore Džīna Nefa norādīja, ka šādas testa vides ir paredzētas drošai AI sistēmu pārbaudei, taču šajā gadījumā tās neesot bijušas pietiekami aizsargātas.
Savukārt mašīnmācīšanās profesors Nīls Lorenss atzina, ka AI paveiktais ir iespaidīgs, taču atbilst mūsdienu jaudīgāko modeļu iespējām. Vienlaikus viņš kritizēja OpenAI, norādot, ka incidents rada jautājumus par uzņēmuma spēju droši ieviest savas tehnoloģijas.
Kiberdrošības eksperti uzskata, ka notikušais ir nopietns brīdinājums organizācijām. Viņuprāt, uzņēmumiem būs jāpielāgo aizsardzības sistēmas laikmetam, kurā uzbrukumus spēj veikt ne tikai cilvēki, bet arī autonomi mākslīgā intelekta aģenti.
Lai gan pagaidām nav ziņu, ka incidentā būtu noplūduši klientu dati, šis gadījums parāda, cik strauji attīstās mākslīgā intelekta spējas un cik svarīgi ir nodrošināt, lai pat kontrolētos testos šādas sistēmas nevarētu izkļūt ārpus tām paredzētajām robežām.

Uzbrukums

Kiberdrošība

Mākslīgais intelekts

За рубежом

OpenAI atklājis līdz šim nepieredzētu incidentu, kurā uzņēmuma viens no modernākajiem mākslīgā intelekta aģentiem drošības testēšanas laikā atrada ievainojamību testa vidē, izkļuva ārpus tās un patstāvīgi mēģināja uzlauzt citu uzņēmumu....

OpenAI paziņo: mākslīgais intelekts kļuva nekontrolējams un veica kiberuzbrukumu

1188.lv

Похожие новости

Загружаем...