Важен консултативен орган на Пентагона - Комисията за национална сигурност по изкуствен интелект - призовава правителството на САЩ да направи огромни инвестиции в автономни оръжейни системи, в противен случай Китай би заел първото място. Наближава ли нова надпревара във въоръжаването? На тази тема е публикацията на германското издание Spiegel, с автор Кристоф Зайдлер.
Може ли и трябва ли автономните оръжия да водят война? Можете да отговорите на този въпрос с ежедневни знания и малко цинизъм. Всеки, който някога е управлявал компютър, който се е справял със сривове и скрити актуализации, може да открие само идеята, че машините правят разлика между живота и смъртта.
Във военните технологии обаче се извършва революция, третата основна след изобретението на барута и ядрените оръжия. „Огромният технологичен напредък, постигнат в областта на роботиката и изкуствения интелект (ИИ) през последните години, изтласка това понятие за автономни оръжия до прага на конкретното изпълнение" - се казва в експертен доклад на службата за оценка на технологиите в германския Бундестаг.
В много страни по света хората говорят за това какво означава цифровизацията за военния сектор - както е в момента в САЩ. Там важен консултативен орган към Министерството на отбраната на САЩ направи препоръки към президента Джо Байдън и Конгреса.
Във всеки случай групата е запозната с компютрите, техните недостатъци и обещанията им. Сред 15-те членове на Комисията за национална сигурност по изкуствен интелект е и предстоящият шеф на Amazon Анди Джаси, който преди това отговаряше за облачния бизнес на Групата. Google и Microsoft изпратиха своите мениджъри за изкуствен интелект Андрю Мур и Ерик Хорвиц, а Oracle изпрати члена на борда Сафра Кац. Работното тяло беше оглавено от бившия шеф на Google Ерик Шмид, който също беше председател на две други комисии в Пентагона.
Настоящият окончателен доклад на комисията се занимава с въпроса каква роля трябва да играе Америка в бъдеще при разработването и използването на автономни оръжейни системи. И ако Шмид и останалите членове на комитета се справят, отговорът може да бъде само един: САЩ трябва да са точно на фронта, в противен случай Китай ще поеме това място. Единствено ядрените оръжия не трябва да се контролират от машини - но широкото популяризиране на съответните технологии е изключително важно.
"Съединените щати трябва да действат сега, за да внедрят системи за изкуствен интелект (ИИ) и да инвестират значително повече ресурси в иновациите на ИИ, за да защитят сигурността си, да насърчат просперитета си и да осигурят бъдещето на демокрацията" - се казва в доклада. Глобалната забрана на подобни оръжейни системи, от друга страна, не би била в интерес на страната, защото най-важните стратегически противници така или иначе не биха се придържали към нея: „Обещанията на държави като Русия или Китай вероятно биха били безсмислени“ - заключи комисията.
Америка трябва да инвестира, колкото е възможно повече, за да запази преднина пред страни като Русия и преди всичко над Китай и това господство трябва да гарантира стабилност. Въоръжаване за мир, така да се каже. Експертите гледат критично на това. „На път сме към надпревара във въоръжаването между САЩ с Китай и Русия“ - казва Аня Далман от Фондацията за наука и политика (SWP) в Берлин. Американците предполагат, че могат да поддържат и разширяват технологичното лидерство. Но това е съмнително. „Човек може да има огромни съмнения дали тази посока има смисъл“ - потвърждава Франк Зауер от Университета на Федералните въоръжени сили в Мюнхен.
Фактът, че комисията подкрепя идеята, може да съдържа егоистични мотиви. Много от членовете имат интерес американските военни да инвестират колкото се може повече пари в цифровизация. Например Amazon и Oracle в момента спорят в съда за това кой може да изгради облачна система за милиарди долари за Пентагона. А шефът на комисията Шмид очевидно е инвеститор в няколко компании за военни технологии. „Той има много, много финансови стимули, за да гарантира, че Министерството на отбраната и други федерални агенции използват ИИ агресивно“ - казва Джон Дейвисън от Електронния информационен център за поверителност във Вашингтон.
Но дали международната забрана за автономни оръжия би била реалистична? Разговорите по този въпрос продължават от години в ООН в Женева в рамките на Конвенцията за конвенционални оръжия. Те не постигат никакъв истински напредък. Това е свързано с политическата воля и със сложността на въпроса. Сравнително лесно е да се преброят бойни глави и танкове и да се изчисли обхватът на ракетите - с алгоритмите обаче нещата са малко по-сложни.
Правозащитната организация Human Rights Watch обобщи позициите на държавите в доклад за миналата година. Според него само около 30 държави, главно от Южна Америка, Африка и Азия, ясно са се обявили в полза на международната забрана.
В много други страни, включително Германия, положението е малко по-сложно. Вярно е, че в коалиционното споразумение на сегашното федерално правителство се казва: „Ние отхвърляме автономни оръжейни системи, които са извън човешкия контрол. Искаме да ги изгоним от целия свят.” Но Хюман Райтс Уотч се оплаква, че въпреки Германия да е участвала във всички международни срещи за роботи-убийци между 2014 и 2019 г., служителите „не подкрепиха предложенията за започване на преговори за договори“. Вместо това Германия и Франция предложиха политическа декларация, която обаче не би била правно обвързваща.
„Германската роля е двусмислена“ - казва изследователят от SWP Далман. Това вече започва с факта, че терминът „извън закона“ от коалиционното споразумение оставя много място за тълкуване и никой не знае точно „какво трябва да означава тук“. Това правно обвързваща забрана ли е? Политическа декларация за намерение ли е, че хората не харесват технологията.
Във връзка с това има различни позиции в правителството. Във Федералното министерство на външните работи лесно можем да си представим международна забрана за автономни оръжия, министър Хейко Маас също редовно декларира това публично. Но дипломатите по време на преговорите не получават никакви указания да изискват това на международната сцена. А в Министерството на отбраната, в случай на съмнение, някои все пак биха предпочели да го оставят с волеизявление.
Това вероятно е свързано с новата авиационна система за въздушен бой FCAS, която Германия, Франция и Испания искат да разработят заедно. „Бъдещата бойна въздушна система“ (изтребител) трябва да замени „Eurofighter“ и френския „Rafale“ до 2040 г. В допълнение към класическия изтребител, той включва и така наречените дистанционни носители, които могат да бъдат разположени вън от самолета и да работят в мрежа. Тези безпилотни машини трябва да комбинират възможностите на управляемите ракети и безпилотните летателни апарати, но трябва да притежават поне някои автономни функции - подробностите в момента се определят.
Междувременно в САЩ нарастват критичните гласове за използването на ИИ в армията и то не само от мирни активисти. Да вземем например Мери Къмингс, която някога е била една от първите жени пилоти на Военноморските сили на своя F/A-18. Днес тя изучава автономни оръжия в университета Дюк в Дърам, Северна Каролина.
"Мога да си представя, че правителството на Байдън също ще даде нов тласък за разговори за автономни оръжейни системи" – казва Франк Зауер от Университета на федералните въоръжени сили в Мюнхен.
Повечето от развитието на ИИ се случва на търговската сцена, казва тя. „Военните са далеч, много далеч назад.“ Къмингс се определя като „технореалист“. Изкуственият интелект в армията е важен, той ще бъде важен и за бъдещото развитие, но „истерията“, че е прекалено ефективен, „това не е вярно“.
Така че рисковете от надпревара във въоръжаването чрез оръжия с ИИ са реални, но предполагаемите военни предимства не са сигурни. Може би президентът Байдън също ще стигне до това заключение. В началото на своя мандат той даде да се разбере, че контролът върху оръжията е важен за него. Тогава той се договори с руския президент Владимир Путин за удължаване на договора за ядрено разоръжаване.
Превод: Ганчо Каменарски
