OpenAI и Anthropic искат спешна координация за безопасност

Министърът на държавната сигурност на Китай Чен Исин предупреди тази неделя, че бързото развитие на изкуствения интелект застрашава политическата стабилност на страната, като позицията му съвпада с паралелните призиви на водещи американски технологични лидери за по-строг контрол над индустрията, съобщават от Bloomberg.

Заплаха за идеологическата сигурност

Според министъра злоупотребата с изкуствен интелект от противници може „пряко да застраши политическата сигурност, институционалната сигурност и идеологическата сигурност на Китай“. В своята статия, публикувана в официалното списание China Cyberspace, той посочва нарастващата способност на автономните системи да откриват недостатъци и да създават зловреден софтуер.

Начело на опасенията на Пекин е възможността враждебни сили да водят когнитивна война. Според Исин дийпфейк технологиите, генерираните текстове и ботовете в социалните мрежи могат да бъдат използвани за фабрикуване на политически слухове, разпространение на вредна информация и подбуждане на социални разделения.

Уеб роботите и системите за извличане на данни биха могли съществено да засилят капацитета на чуждестранните разузнавателни агенции да събират чувствителна информация, включително държавни тайни и лични данни, се посочва още в публикацията.

Технологичен суверенитет и стандарти

Министърът предупреждава, че държавите с предимство в сферата на изкуствения интелект могат да използват националната сигурност като претекст за налагане на глобален технологичен контрол. Целта на подобни действия би била монополизиране на индустриалните стандарти и изграждане на затворени екосистеми, което повтаря заявеното по-рано през годината противопоставяне на китайския президент Си Дзинпин срещу разширяването на западната концепция за национална сигурност.

Паралелни призиви от САЩ

Докладът от Пекин съвпада по време с изявленията на лидерите на водещи американски технологични компании, макар да няма признаци за съгласуваност. Съоснователят на Anthropic Дарио Амодей посочи в своя блог, че възможностите на изкуствения интелект изпреварват предпазните мерки, като предложи спешна координация между демократичните държави.

Главният изпълнителен директор на OpenAI Сам Алтман също подкрепи идеята за модериране на темповете на развитие, за да не се изпреварва способността на хората да упражняват контрол.

„Никакъв американски конкурентен натиск не бива да оправдава безразсъдството или да позволява на възможностите да изпреварват съгласуването и мониторинга“, написа Алтман в социалната мрежа X. Той допълни, че изместването на фокуса към безопасността има своята цена, но е абсолютно необходимо, за да се запази увереността, че компаниите разработват отговорно все по-способни технологии.