Viens no vadošajiem mākslīgā intelekta (MI) drošības pētniekiem uzņēmumā "Anthropic" Evans Hubingers brīdinājis, ka pastāv vairāk nekā 10% iespēja, ka MI nākamās desmitgades laikā varētu "nogalināt visus cilvēkus".
Hubingers ierakstā sociālajā tīklā X norādīja, ka pašlaik pastāvošo MI modeļu radītais risks ir zems, taču viņu satrauc tehnoloģijas straujā attīstība. Pētnieks bažījas, ka MI tuvākajā nākotnē varētu kļūt spējīgs pietiekami efektīvi pilnveidot pats sevi, tādējādi radot eksistenciālu risku cilvēcei.
<blockquote>Mēs patiesi un nopietni uzskatām, ka MI rada cilvēces izzušanas risku,</blockquote>rakstīja Hubingers.
Viņš arī atzina, ka "Anthropic" cenšas darīt visu iespējamo, tomēr uzņēmumam pašlaik neesot plāna, kā atrisināt tā dēvēto superinteliģences saskaņošanas problēmu, kā arī nav skaidrs, vai uzņēmums ir ceļā uz šāda risinājuma izstrādi.
Hubingera ieraksts sociālajā tīklā X jau aplūkots 12,2 miljonus reižu.
Bažas par MI drošību pastiprinājušās arī saistībā ar ziņām, ka "Anthropic" nav nodevis savu jaunāko modeli Apvienotās Karalistes MI drošības institūtam, kas ir viena no vadošajām institūcijām pasaulē MI radīto risku izvērtēšanā, ziņo "BBC".
Pēdējos mēnešos arvien vairāk uzmanības pievērsts arī autonomajiem MI aģentiem, kas spēj patstāvīgi veikt dažādus uzdevumus. Vairāki tehnoloģiju uzņēmumi, tostarp "OpenAI", 

"Anthropic" un "Meta", ir atklājuši gadījumus, kad to MI rīki bijuši saistīti ar kiberuzbrukumiem.
Savukārt "OpenAI'' galvenais zinātnieks Jakubs Pačockis septembrī aicinājis ievērot "ārkārtīgu piesardzību" MI attīstībā, uzsverot, ka var būt nepieciešama lielāka iejaukšanās, lai nodrošinātu, ka cilvēki saglabā kontroli pār nākotni.
Bažas par pārāk strauju MI attīstību pauduši arī paši nozares vadītāji. ''Anthropic'' vadītāji Dario Amodei un Džareds Kaplans kopā ar citiem nozares pārstāvjiem aicinājuši palēnināt progresīvāko MI sistēmu izstrādi.
Atklātu vēstuli, kurā ASV valdība aicināta atbalstīt starptautiskus centienus izstrādāt tehniskus un pārvaldības mehānismus, lai apzināti palēninātu progresīvā MI attīstību, parakstījuši aptuveni 1300 MI uzņēmumu darbinieku.

<iframe id="PdP3F3XiePnk" src="https://www.1188.lv/v4/en/entertainment/advice/embed?code=PdP3F3XiePnk" style="width:100%;display:block;border:0" frameborder="0" allowfullscreen></iframe>

Tehnoloģijas

Mākslīgais intelekts

Public

Viens no vadošajiem mākslīgā intelekta (MI) drošības pētniekiem uzņēmumā "Anthropic" Evans Hubingers brīdinājis, ka pastāv vairāk nekā 10% iespēja, ka MI nākamās desmitgades laikā varētu "nogalināt visus cilvēkus". Hubingers ierakstā...

Pētnieks brīdina: MI nākamās desmitgades laikā varētu iznīcināt cilvēci

1188.lv

Similar news

Loading...