Mākslīgā intelekta (MI) pētnieks, kurš aizgājis no MI uzņēmuma "Anthropic", brīdinājis par tehnoloģijas straujās attīstības iespējamo ietekmi uz cilvēci, norādot, ka nozarē strādājošie esot "patiesi nobijušies" par notiekošo.27 gadus vecais Džeikobs Koksons, kurš iepriekš strādājis arī "OpenAI", intervijā BBC raidījumam "Sunday with Laura Kuenssberg" stāstīja par savu plašu uzmanību izpelnījušos paziņojumu par aiziešanu no "Anthropic". Tajā viņš pauda bažas, ka mākslīgā intelekta attīstība var kļūt nekontrolējama.<blockquote>Es uzskatu, ka, ja mēs nesamazināsim pašreizējo progresa tempu, pastāv liela iespēja, ka mēs visi tuvākajā nākotnē varētu nomirt.</blockquote>Viņa aiziešana notiek laikā, kad MI nozarē pieaug bažas par tehnoloģijas drošību. Arī "Anthropic" vadītājs Dario Amodei nesen aicinājis palēnināt MI attīstību, norādot, ka tehnoloģijas izstrāde pati par sevi nav apšaubāma, taču ar to saistītie riski ir nopietni un uzņēmumiem un valdībām nepieciešams laiks, lai tos novērstu.Amodei priekšlikumu par nozares attīstības palēnināšanu un stingrāku regulējumu atbalstījuši arī konkurējošo uzņēmumu vadītāji - "OpenAI" vadītājs Sems Altmans un "xAI" vadītājs Īlons Masks. Viņi atbalsta arī neatkarīgu MI modeļu izstrādes uzraudzību.Koksons norādīja, ka MI attīstības tempu būtu nepieciešams samazināt koordinēti arī ar Ķīnu, lai nerastos starptautiska sacensība, kurā valstis un uzņēmumi censtos viena otru apsteigt.<blockquote>Šajos uzņēmumos strādājošie ir pilnībā nopietni, kad viņi aicina ieviest regulējumu, jo viņi paši ir iesprostoti sacensībā. Un viņi baidās no šīs sacensības iznākuma.</blockquote>Pēc Koksona teiktā, viens no sarežģītākajiem jautājumiem ir tas, kā varētu izskatīties tā dēvētā MI apokalipse. Viņš pieļāva, ka scenārijs, kurā liels skaits MI aģentu darbojas kā sava veida superdators un pārņem kontroli pār internetu, varētu kļūt reāls jau sešu mēnešu līdz gada laikā.Koksons arī sacīja, ka viņa kolēģi bažas par MI radītajiem riskiem varētu saskatīt jau tuvāko divu gadu laikā. Pēc viņa teiktā, daži nozarē strādājošie apsver, kā mainīt savu dzīvi un pat iegādāties zemi nomaļākās vietās, jo baidās no iespējamās nestabilitātes, ko varētu radīt strauja MI attīstība.<blockquote>Viņi visi par to ikdienā domā, vienlaikus strādājot pie šīs tehnoloģijas.</blockquote>"Anthropic" pārstāvis BBC norādīja, ka uzņēmums vienmēr esot bijis atklāts par to, ka MI sniegs gan milzīgus ieguvumus, gan radīs līdz šim nepieredzētus riskus. Uzņēmums turpinot izstrādāt modeļus ar stingriem drošības pasākumiem un intensīvi tos testējot.Vienlaikus Koksona izteikumi izraisījuši arī kritiku. MI platformas "Hugging Face" vadītājs Klemāns Delangs sociālajos tīklos apšaubīja, vai Koksons ir pietiekami kompetents, lai vērtētu MI izzušanas riskus. Savukārt "Nvidia" vadītājs Džensens Huans iepriekš izteicies, ka ideja par to, ka MI izraisīs cilvēces galu, ir pilnīgas muļķības.Koksons tomēr uzsvēra, ka MI pētnieki neesot tikai satraukti par iespējamiem riskiem, bet arī patiesi vēloties izmantot tehnoloģiju cilvēces labā, piemēram, slimību ārstēšanā un cilvēku dzīves uzlabošanā.Viņa pausto atbalstījis arī "Anthropic" zinātnieks Evans Hūbingers, kurš sociālajos tīklos norādījis, ka viņš patiešām uzskata MI izraisītas cilvēces iznīcināšanas risku par reālu. Viņš lēsa, ka iespēja, ka MI nākamās desmitgades laikā varētu nogalināt visus cilvēkus, pārsniedzot 10%.Bažas par MI drošību vadošie nozares pārstāvji pauž jau vairākus gadus, tomēr pēdējā laikā brīdinājumi kļuvuši skaļāki, jo jaunākie MI modeļi demonstrē arvien jaudīgākas spējas, kuras to izstrādātājiem ne vienmēr izdodas pilnībā kontrolēt."Anthropic" aprīlī paziņoja, ka publiski neizlaidīs savu "Mythos" modeli, jo tas spējis patstāvīgi izkļūt no tā dēvētās smilškastes jeb izolētās testēšanas vides. Savukārt "OpenAI" paziņojis, ka kiberdrošības apsvērumu dēļ apturēti atsevišķi tā jaunākā "Astra" modeļa izstrādes aspekti.

Drošība

Mākslīgais intelekts

Public

Mākslīgā intelekta (MI) pētnieks, kurš aizgājis no MI uzņēmuma "Anthropic", brīdinājis par tehnoloģijas straujās attīstības iespējamo ietekmi uz cilvēci, norādot, ka nozarē strādājošie esot "patiesi nobijušies" par notiekošo. 27 gadus...

Pētnieks: MI nozarē strādājošie ir "patiesi nobijušies" par cilvēces nākotni

1188.lv

Similar news

Loading...