Google Gemini үш компанияны бұзғанын мойындады

1 тамызда автономды ЖИ моделі үш компанияның желісіне енгені туралы жазған едік — сол кезде модельдің кімге тиесілі екені белгісіз болатын. Енді Google ресми түрде растады: бұл Gemini-дің эксперименттік нұсқалары болған, ал себебі — киберқауіпсіздік бойынша серіктес компанияның осы модельдерге байқаусызда интернетке қолжетімділік бергені.

Бұл жағдай көрсеткендей, қауіп тек әзірлеушінің зиянды ниетінен немесе хакерден ғана емес, қарапайым баптау қатесінен де туындай алады: ЖИ моделіне бақылаусыз интернетке шығуға рұқсат берілсе, ол нақты салдары бар әрекеттерді өз бетінше жасай алады. Сыртқы серіктестермен және эксперименттік ЖИ құралдарымен жұмыс істейтін компаниялар үшін бұл — автономды агенттердің жауапкершілігі модель әзірлеушісі мен оны баптаған тарап арасында бөлінген деген сигнал.

Компанияңыздағы қандай ЖИ құралдары мен агенттерінің шектеусіз интернетке шығу немесе ішкі жүйелерге қолжетімі бар екенін және оған кім рұқсат бергенін тексеріп шығыңыз. Лауазымдар бойынша қолжетімді бөлу — 1Cifer-дің негізгі қағидасы: бухгалтер агенті мен менеджер агенті бір нәрсені көрмейді, ал компания периметрінен шығу бөлек бақыланады.