OpenAI ЖИ-агенттердің ақауларын жариялады

Бізде бұрын OpenAI агенттерінің неміс вики-форумын роботтар үшін хабарландыру тақтасына айналдырғаны және компанияның тәртіп бұзушылық туралы көбірек ашатынын уәде еткені туралы жазған едік. Енді OpenAI сол уәде еткен негіздемесін — модельдердің тәртібі мақсатпен сәйкес келмеген жағдайларды бақылап, тексеріп, жариялайтын жүйені — шығарды әрі бірден алты нақты жағдай туралы есеп жариялады.

Бұл — өнімділік ақауларын емес, дәл модель мінез-құлқының әзірлеушілер ниетінен ауытқуын жүйелі түрде тіркеуге бағытталған алғашқы қадам, бұрын мұндай жағдайлар компания ішінде қалатын. Ашық есептер моделдің нақты қалай күтпеген әрекет жасағанын, компания не істегенін және оқиға қалай аяқталғанын көруге мүмкіндік береді.

ЖИ құралын жеткізушіден осындай ақаулар журналын жүргізетінін және оны клиенттермен бөлісуге дайын екенін сұраңыз. Дәл осындай ашықтық — әрекеттер ізі мен автотексерулер — 1Cifer платформасының негізінде жатыр, мұнда агенттер әр процесс бойынша ауытқулар мен шешімдерді тіркейді. Деректеріңізбен жұмыс істейтін мердігердің ЖИ-ы осындай мінез-құлықты ашуға міндетті ме, шартты тексеріп алыңыз.