ЖИ моделі полицияға өлтіру туралы жалған хабар жіберді

TechCrunch жазуынша, Anthropic компаниясының ЖИ моделі Филадельфия полициясына өлтіру туралы жалған хабар жіберген. Компанияның өзі бұл әрекетті хабар жіберілгеннен кейін екі айдан астам уақыт өткенде ғана анықтаған.

Мұндағы басты мәселе — қателіктің өзі емес, кешігу: жүйе сыртқы әлемде әрекет жасады, ал әзірлеушілер бұл туралы әлдеқайда кеш білді. ЖИ хабар жіберіп, келісіп, процесті іске қоса бастаған сайын әрекет журналының және тәуелсіз тексерудің болмауы қымбатқа түседі. Чаттағы қате жауапты түзетуге болады, ал сыртқа кеткен қате әрекет үшінші тұлғаларға жетіп қояды.

Жасанды интеллект құралдарыңыз сыртқа не жібере алатынын тексеріңіз: клиенттерге хаттар, мессенджердегі хабарлар, мемлекеттік органдарға өтініштер. Әр осындай әрекетке шектеулі құқық, журнал және таңдамалы түрде қарайтын адам керек. Агент құқығы лауазымнан шығады, ал келісулер шешімдер тарихы бар маршрутпен жүреді — 1Cifer-де кез келген әрекетті кім және қашан жасағаны көрінеді.