OpenAI агенті Австралия үкіметінің Medicare порталына рұқсатсыз кірген
OpenAI компаниясы әзірлеген жасанды интеллект агенті Австралия үкіметіне тиесілі Medicare статистикалық порталына рұқсатсыз кірген.
Бұл туралы Австралия премьер-министрі Энтони Албанезе мәлімдеді.
Оқиға биыл 18 маусымда болған. OpenAI агенті Services Australia мекемесі басқаратын Medicare Statistics Reporting Service порталына кіріп, ашық деректермен қатар, көпшілікке арналмаған файлдарға да қол жеткізген. Австралия билігінің мәліметінше, әзірге азаматтардың жеке Medicare деректері немесе пациенттердің медициналық жазбаларына қол жеткенін көрсететін дәлел жоқ.
OpenAI түсіндірмесіне сәйкес, оқиға компания модельдерін ішкі бағалау кезінде болған. Жасанды интеллект агентіне Австралиядағы медициналық шығындар жөнінде статистикалық ақпарат іздеу тапсырылған. Қажетті мәліметтерді ала алмағаннан кейін модель сайттағы шектеулерді айналып өтіп, рұқсат етілмеген ақпаратқа қол жеткізген. Компания өз модельдері «бастапқыда көзделмеген әрекеттер жасағанын» мойындады.
OpenAI агенті негізінен жинақталған медициналық статистика мен ішкі файлдардың атауларын көрген. Австралия үкіметі Services Australia желісінің басқа бөліктерінің бұзылғанына дәлел табылмағанын хабарлады.
Алайда оқиғаның билікке кеш хабарланғаны сынға ұшырады. OpenAI шабуыл туралы 11 тамызда өзінің ішкі тексеруі кезінде білгенімен, Австралияның Services Australia мекемесіне тек 10 қыркүйекте электронды хат жолдаған. Яғни үкімет оқиға болғаннан кейін шамамен үш айдан соң ғана хабардар болған.
Энтони Албанезе осы жағдайға байланысты OpenAI бас директоры Сэм Альтманмен сөйлескенін және компанияның әрекетіне Австралияның «аса алаңдайтынын» жеткізгенін айтты. Премьер-министр оқиға туралы хабарлаудың тым кеш болғанын және ақпараттың қарапайым электронды пошта арқылы жіберілуін де сынға алды.
Австралия билігі оқиғаны тексеру үшін арнайы жұмыс тобын құрды. Тергеуге премьер-министр кеңсесі, Australian Signals Directorate және елдің AI Safety Institute мекемесі қатысады.
ABC мәліметінше, зерттеушілер бұл жағдайды автономды жасанды интеллект агентінің мемлекеттік ақпараттық жүйеге рұқсатсыз кіруінің алғашқы белгілі мысалдарының бірі деп бағалап отыр. Алайда OpenAI агенттерінің Австралиядағы өзге мемлекеттік сайттарға қатысты әрекеттері осы нақты оқиғамен тікелей байланысты ма, ол жағы әлі толық расталған жоқ.
