ЖИ Gemini бақылаудан шығып, үш компанияға кибершабуыл жасаған

ABC News мәліметінше, бұл Google-дың жасанды интеллекті өздігінен нақты ұйымдардың жүйесіне кіруге әрекет жасаған алғашқы белгілі жағдай.

Оқиға мамыр айында тәуелсіз Irregular компаниясы ұйымдастырған киберқауіпсіздік жаттығуы кезінде болған.

Google компаниясының қауіпсіздік жөніндегі вице-президенті Хизер Адкинстің айтуынша, Gemini үш жағдайда да нақты ұйымдардың жүйесіне кіргенін түсінгеннен кейін әрекетін өздігінен тоқтатқан.

«Біз үш ұйымның да болған жағдайдан хабардар болуын қамтамасыз еттік. Сондай-ақ оқыту жөніндегі серіктесімізбен бірге олардың тестілеу процесіне енгізетін өзгерістерді әзірледік. Бұл жағдайлар қуатты жасанды интеллект модельдерін жауапкершілікпен әрекет етуге үйретудің маңызын көрсетеді», – деді Адкинс.

Google бұған дейін оқиға туралы жариялауды қажет деп таппаған. Компанияның түсіндіруінше, инцидент салдарынан ешкім зардап шекпеген.

Оқиға Irregular инфрақұрылымында өткен «туды басып алу» (Capture the Flag) жаттығуы кезінде болған. Gemini-ге ойдан шығарылған компанияның бағдарламалық жасақтамасынан дерек алу тапсырылған. Алайда Irregular мәліметінше, модельге интернетке шығу мүмкіндігі байқаусызда ашық қалып, тестілік компанияның атауы нақты компанияның атымен сәйкес келген.

The Wall Street Journal дерегінше, бір жағдайда Gemini жүйеге кіру үшін құпиясөздерді іріктеп көрген, ал тағы екі жағдайда ашық репозиторийден табылған есептік жазба деректерін пайдаланған.

Бұл оқиға автономды жасанды интеллект жүйелерінің мүмкіндігі артқан сайын олардың қауіпсіздығына қатысты алаңдаушылықты күшейтті. Шілде айында технология саласының мыңнан астам қызметкері Pacing the Frontier бастамасының петициясына қол қойған. Олардың арасында Meta, Anthropic, OpenAI және Alphabet қызметкерлері бар. Петиция авторлары ең озық жасанды интеллект жүйелерін әзірлеу қарқынын үйлестірілген түрде баяулатуға шақырған.