OpenAI Astra моделін сыни кибермүмкіндіктері үшін тежеді

The Verge хабарлағандай, OpenAI Astra моделінің шығуын тоқтата тұрды: ішкі сынақтарда ол шабуылдық кибермүмкіндіктердің «сыни» деңгейін көрсетті. Зертханада қабылданған рамкалар бойынша бұл — модель нақты шабуылдарға елеулі көмектесе алады деген сөз, оның шығуы қосымша шектеулер енгізілгенше кейінге қалдырылды.

Оқиға екі жағынан назар аудартады. Бір жағынан — модельдердің жаңа буыны шынымен қауіпті деңгейде бұза алатынының растауы: бұл енді алармистердің гипотезасы емес, әзірлеушінің өз өнімі туралы қорытындысы. Екінші жағынан — өзін-өзі шектеу прецеденті: саладағы бәсеке қызу, кідірістің әр айы ақша тұрады, сөйтсе де зертхана үзілісті таңдады. Жазғы автономды агент оқиғаларынан кейін бедел қатесінің құны релиз пайдасынан басым түскен сияқты.

Қазақстандағы бизнеске практикалық мәні — қатерлер күнтізбесінде: Astra-ны тежеткен мүмкіндіктер бір-бір жарым жылдан кейін ашық немесе ұрланған модельдерде пайда болады — ЖИ-дің әр буынымен солай болған. Демек, компанияларда «сыни кибермүмкіндіктер» жаппай құралға айналғанға дейін қорғанысты күшейтуге терезе бар: базалық гигиенаны жабу, резервтік көшірмелерден қалпына келтіруді сынау және қай жүйелеріңіз интернеттен қолжетімді екенін түсіну. Терезе ашық — бірақ мәңгі емес.