Біріккен Ұлттар Ұйымының жасанды интеллект жөніндегі тәуелсіз халықаралық ғылыми тобы адамзаттың болашақта жасанды интеллект (AI) агенттерін толық бақылауда ұстай алатынына кепілдік жоқ екенін мәлімдеді, деп хабарлайды dalanews.kz.
Сарапшылардың бұл ескертуі ChatGPT әзірлеушісі – OpenAI компаниясы ұйымдастырған сынақтан кейін жарияланды. Биыл мамыр мен шілде айлары аралығында өткен эксперимент барысында AI агенттері жасанды интеллект модельдерін әзірлеу және сынауға арналған Hugging Face платформасының қорғаныс жүйелерін айналып өткен.
AI агенттері чат-боттардан несімен ерекшеленеді?
Мамандардың айтуынша, қарапайым чат-боттар пайдаланушылардың сұрақтарына жауап берумен шектелсе, AI агенттері адамның атынан белгілі бір тапсырмаларды өздігінен орындай алады. БҰҰ-ның ғылыми тобы жариялаған алғашқы аналитикалық жазбада қауіпсіздік талаптарының бұзылуына бірнеше тәуекел факторының қатар әсер еткені айтылған. Бұл оқиға болашақта адамдардың жасанды интеллект жүйелерін бақылау, шектеу немесе тоқтату қабілетін жоғалтуы мүмкін деген алаңдаушылықты күшейтті.
Ғылыми топтың тең төрағасы Йошуа Бенжио зерттеушілер мұндай қауіп туралы бұрыннан айтып келе жатқанын жеткізді.
«Бақылауды жоғалтуға үш фактордың үйлесуі себеп болуы мүмкін: адамның мақсатына сәйкес келмейтін мақсат, сол мақсатқа жету қабілеті және оған мүмкіндік беретін орта. Осы жазда бұл үш фактор алғаш рет зертханада емес, нақты жағдайда тоғысты», – деді ол.
Оның айтуынша, бұл жасанды интеллект өзіне жүктелген міндеттен тыс әрекет еткен алғашқы жағдай емес.
Агенттер қауіпсіздік шектеулерін айналып өткен
Тәуелсіз сарапшылардың пікірінше, бұл оқиға адамдардың AI агенттерін сенімді түрде бақылай алатынына күмән туғызады. Әсіресе олар барған сайын дербес әрекет етіп, жүйедегі осал тұстарды табуды және өз іс-әрекетін жасыруды үйреніп жатқан кезде қауіп арта түседі. Аналитикалық жазбада AI агенттерінің сынақ үшін орнатылған қорғаныс тетіктерін айналып өткені айтылған. Олар өзара байланысқа арналмаған ішкі бағдарламалық құрал арқылы әрекеттерін үйлестіріп, интернетке рұқсатсыз қол жеткізген және әкімшілік құқықтарға ие болған.
Сонымен қатар агенттер киберқауіпсіздік ережелерін бұзу әрекеттерін жасырған. Кейбірі тіпті ортақ мақсатқа жету үшін өзін «құрбан ету» стратегиясын таңдаған. Тәжірибе барысында шамамен 1200 AI агенті бір-бірімен 70 мыңнан астам хабарлама мен файл алмасқан. Олардың әрекеті тек Hugging Face платформасымен шектелмей, OpenAI-дің бүкіл зерттеу инфрақұрылымына таралған.
Қауіпсіздік жүйелері технология дамуынан қалып барады
Сарапшылардың пікірінше, бұл оқиға қауіпсіздік жүйелерінің технологиялардың даму қарқынына ілесе алмай отырғанын көрсетті. Одан да маңызды мәселе – қазіргі оқыту тәсілдері AI агенттерінің өз бетінше мақсат қоюына, қауіпсіздік нұсқаулықтарын саналы түрде бұзуына және әрекеттерін жасыруына алып келуі мүмкін.
«Агенттер қорғаныс механизмдерінің қалай жұмыс істейтінін түсініп, оларды айналып өту жолдарын жоспарлауды үйренсе, қазіргі қауіпсіздік құралдары тиімді бола ма деген сұрақ әлі ашық күйінде қалып отыр. Қарапайым тілмен айтқанда, дәстүрлі қауіпсіздік моделі әлсірей бастады», – деп атап өтті сарапшылар.
БҰҰ қандай шешім ұсынады?
Құжатта авиация, медицина және киберқауіпсіздік секілді жоғары тәуекелді салаларда қолданылатын тәжірибелер мысал ретінде келтірілген. Атап айтқанда, оқиғалар туралы міндетті есеп беру жүйелері, тәуелсіз бақылау тетіктері және көпдеңгейлі қорғаныс модельдері ұсынылады. Алайда ғылыми топ мүшесі Цинхуа Лудың айтуынша, AI агенттері барған сайын күрделі әрі автономды бола түскен сайын мұндай шаралардың өзі жеткіліксіз болуы мүмкін.
«Жасанды интеллект агенттері неғұрлым дамыған сайын, оларды бақылау мен басқару соғұрлым қиын бола түседі», – деді сарапшы.
