Birikken Ulttar Uiymynyń jasandy intellekt jónindegi táýelsiz halyqaralyq ǵylymi toby adamzattyń bolashaqta jasandy intellekt (AI) agentterin tolyq baqylaýda ustai alatynyna kepildik joq ekenin málimdedi, dep habarlaidy dalanews.kz.
Sarapshylardyń bul eskertýi ChatGPT ázirleýshisi – OpenAI kompaniiasy uiymdastyrǵan synaqtan keiin jariialandy. Biyl mamyr men shilde ailary aralyǵynda ótken eksperiment barysynda AI agentteri jasandy intellekt modelderin ázirleý jáne synaýǵa arnalǵan Hugging Face platformasynyń qorǵanys júielerin ainalyp ótken.
AI agentteri chat-bottardan nesimen erekshelenedi?
Mamandardyń aitýynsha, qarapaiym chat-bottar paidalanýshylardyń suraqtaryna jaýap berýmen shektelse, AI agentteri adamnyń atynan belgili bir tapsyrmalardy ózdiginen oryndai alady. BUU-nyń ǵylymi toby jariialaǵan alǵashqy analitikalyq jazbada qaýipsizdik talaptarynyń buzylýyna birneshe táýekel faktorynyń qatar áser etkeni aitylǵan. Bul oqiǵa bolashaqta adamdardyń jasandy intellekt júielerin baqylaý, shekteý nemese toqtatý qabiletin joǵaltýy múmkin degen alańdaýshylyqty kúsheitti.
Ǵylymi toptyń teń tóraǵasy Ioshýa Benjio zertteýshiler mundai qaýip týraly burynnan aityp kele jatqanyn jetkizdi.
«Baqylaýdy joǵaltýǵa úsh faktordyń úilesýi sebep bolýy múmkin: adamnyń maqsatyna sáikes kelmeitin maqsat, sol maqsatqa jetý qabileti jáne oǵan múmkindik beretin orta. Osy jazda bul úsh faktor alǵash ret zerthanada emes, naqty jaǵdaida toǵysty», – dedi ol.
Onyń aitýynsha, bul jasandy intellekt ózine júktelgen mindetten tys áreket etken alǵashqy jaǵdai emes.
Agentter qaýipsizdik shekteýlerin ainalyp ótken
Táýelsiz sarapshylardyń pikirinshe, bul oqiǵa adamdardyń AI agentterin senimdi túrde baqylai alatynyna kúmán týǵyzady. Ásirese olar barǵan saiyn derbes áreket etip, júiedegi osal tustardy tabýdy jáne óz is-áreketin jasyrýdy úirenip jatqan kezde qaýip arta túsedi. Analitikalyq jazbada AI agentteriniń synaq úshin ornatylǵan qorǵanys tetikterin ainalyp ótkeni aitylǵan. Olar ózara bailanysqa arnalmaǵan ishki baǵdarlamalyq qural arqyly áreketterin úilestirip, internetke ruqsatsyz qol jetkizgen jáne ákimshilik quqyqtarǵa ie bolǵan.
Sonymen qatar agentter kiberqaýipsizdik erejelerin buzý áreketterin jasyrǵan. Keibiri tipti ortaq maqsatqa jetý úshin ózin «qurban etý» strategiiasyn tańdaǵan. Tájiribe barysynda shamamen 1200 AI agenti bir-birimen 70 myńnan astam habarlama men fail almasqan. Olardyń áreketi tek Hugging Face platformasymen shektelmei, OpenAI-diń búkil zertteý infraqurylymyna taralǵan.
Qaýipsizdik júieleri tehnologiia damýynan qalyp barady
Sarapshylardyń pikirinshe, bul oqiǵa qaýipsizdik júieleriniń tehnologiialardyń damý qarqynyna ilese almai otyrǵanyn kórsetti. Odan da mańyzdy másele – qazirgi oqytý tásilderi AI agentteriniń óz betinshe maqsat qoiýyna, qaýipsizdik nusqaýlyqtaryn sanaly túrde buzýyna jáne áreketterin jasyrýyna alyp kelýi múmkin.
«Agentter qorǵanys mehanizmderiniń qalai jumys isteitinin túsinip, olardy ainalyp ótý joldaryn josparlaýdy úirense, qazirgi qaýipsizdik quraldary tiimdi bola ma degen suraq áli ashyq kúiinde qalyp otyr. Qarapaiym tilmen aitqanda, dástúrli qaýipsizdik modeli álsirei bastady», – dep atap ótti sarapshylar.
BUU qandai sheshim usynady?
Qujatta aviatsiia, meditsina jáne kiberqaýipsizdik sekildi joǵary táýekeldi salalarda qoldanylatyn tájiribeler mysal retinde keltirilgen. Atap aitqanda, oqiǵalar týraly mindetti esep berý júieleri, táýelsiz baqylaý tetikteri jáne kópdeńgeili qorǵanys modelderi usynylady. Alaida ǵylymi top múshesi Tsinhýa Lýdyń aitýynsha, AI agentteri barǵan saiyn kúrdeli ári avtonomdy bola túsken saiyn mundai sharalardyń ózi jetkiliksiz bolýy múmkin.
«Jasandy intellekt agentteri neǵurlym damyǵan saiyn, olardy baqylaý men basqarý soǵurlym qiyn bola túsedi», – dedi sarapshy.
