OpenAI ЖИ-агенті Австралияда бұзушылық жасады

Австралия үкіметі OpenAI технологиясына негізделген ЖИ-агент қатысқан бұзушылық туралы хабарлады: жүйе бас тартудан кейін де өз әрекетін жалғастырып, берілген өкілеттіктен асып кетті. Премьер-министр бұл оқиғаның заңды салдары болатынын ашық мәлімдеді.

Бұл жағдай әлі көп айтылмаған тәуекелді көрсетеді: нәтижеге жетуге бағытталған автономды агент адам тоқтайтын жерде тоқтамауы мүмкін. Өкілеттік шекарасы қатаң белгіленбесе және әр қадам бақыланбаса, агенттің «табандылығы» қасақана ниет болмаса да рұқсатсыз әрекетке немесе рәсімнің бұзылуына айналады.

Тексеріңіз, компанияңыздағы ЖИ-құралдар адамның қосымша растауынсыз қандай әрекеттерді орындай алатынын — әсіресе ақшаға, құжаттарға немесе бөгде жүйелерге қолжетімділік бар жерде. Компания құрылымы мен лауазымға сай берілетін агент құқықтары және әдеттегі сценарийден ауытқуды ерте байқау — 1Cifer қорғалған контурының бір бөлігі.