ЖИ қатесі әскери жанжал тудыра жаздады

АҚШ әскери құрылымдары Таяу Шығыстағы қытайлық кемеге қарсы операция бастай жаздады — CNN мәліметінше, қателескен барлау емес, жасанды интеллект болған. Жүйе барлау деректерін талдап, кеме Қытайдың ядролық қару бағдарламасына арналған бөлшектер тасып бара жатыр деп шешім шығарған. Әскерилер ұшақтарды көтеріп, кемені тоқтатуға дайындалған, бірақ операция алдында деректі қайта тексеріп, чат-боттың жүкті дұрыс анықтамағанын байқаған.

Кейін белгілі болғандай, талдаушы кеме манифестін талдау үшін нейрожелі қолданған, содан кейін сол ЖИ көмегімен қорытындыны ресми есепке енгізген — тәуелсіз тексерусіз. Бір жүйенің қателігі адам бақылауынсыз қайтымсыз салдары бар әрекетке жақындатып жіберді. ЖИ қорытындысы қаншалықты сенімді естілсе, оны факт ретінде қабылдап, тексеруді өткізіп жіберу соғұрлым оңай — әсіресе шешім жылдам керек болғанда.

Компанияңызда ЖИ құралының қорытындысы бірден әрекетке — төлемге, клиентке хатқа, кадр шешіміне — айналатын жерлерді тексеріңіз, ол адам көзінсіз өтіп кетпеуі керек. Маңызды операцияларды бір ғана дереккөзге сенбей, келісу маршруты арқылы өткізген жөн. 1Cifer-де осындай қағида қолданылады: шоттар мен келісімшарттар бойынша шешімдер агент әрекет жасамас бұрын шешімдер тарихы сақталатын келісу маршрутынан өтеді.