Тайната на въстаналия безпилотник

„Изкуственият интелект не е много добро нещо“

По време на тестове, проведени от американската армия, дрон, управляван от изкуствен интелект (ИИ), реши да убие оператора си, за да не пречи на задачата, съобщи The Guardian . Звучи зловещо. За някои напомни пиесата на Карел Чапек RUR, за други фантастичната история на Валери Брюсов „Възходът на машините“.

На 25 май зловещият инцидент беше обсъден на частна среща в Лондон. Полковник Тъкър Хамилтън, ръководител на изпитанията и операциите по ИИ във ВВС на САЩ, каза, че по време на тестова мисия дронът е имал задача да унищожи вражеска система за противовъздушна отбрана. Ако успее, ИИ ще получи точки за изпълнение на предизвикателството. Окончателното решение дали целта ще бъде унищожена, трябваше да бъде приемано от оператора на БЛА. И по време на една от тренировъчните мисии той нареди на дрона да не унищожава целта. Тогава “дронът реши да убие оператора, защото този човек му попречи да изпълни задачата”, каза полковникът.

След инцидента, ИИ беше научен, че е погрешно да се убива операторът, че за подобни действия ще бъдат приспадани точки. „И така, какво започва да прави изкуственият интелект? Той започва да унищожава комуникационната кула, която се използва за връзка с дрона и отправя командите, пречещи му да убие целта.”

Когато историята навлезе в медиите, избухна скандал, Пентагонът реши да даде „заден ход“ и отрече информацията. Както американският портал Defense News съобщи на 2 юни , ВВС на САЩ отрекоха изявлението на полковник Хамилтън. Беше заявено, че не са провеждани такива тестове, а коментарите на полковника вероятно са „извадени от контекста и са анекдотични“. Полковникът е командир на 96-та оперативна група във военновъздушната база Еглин във Флорида, която се управлява от 96-то изпитателно крило. Defence News се свърза с изпитателното крило, за да говори с Хамилтън, но му казаха, че не е на разположение за коментар.

Миналата година Хамилтън вече изрази опасенията си: „Изкуственият интелект не е много готин, това е мимолетна мода. Изкуственият интелект завинаги ще промени нашето общество и армия. Трябва да разберем, че изкуственият интелект вече е тук и трансформира нашето общество. Изкуственият интелект е много нестабилен, лесно е да бъде измамен, лесно може да бъде манипулиран.”

Междувременно Министерството на отбраната на САЩ от години гледа на ИИ като на разрушително технологично предимство за армията, създавайки Генерална дирекция за цифров и изкуствен интелект, ръководена от Крейг Мартел в края на 2021 г. Бюджетното предложение на Пентагона за фискалната 2024 година включва 1,8 милиарда долара за програми за изкуствен интелект.

Военновъздушните сили на САЩ разработват поне 80 проекта, използващи изкуствен интелект. По-специално, говорим за използването на автономни или полуавтономни дронове за полети заедно с изтребителите F-35 и бъдещия изтребител Next Generation Air Dominance. Съединените щати възнамеряват да създадат цяла флотилия от такива “робски дронове”, които ще придружават самолета с екипаж в боя и ще изпълняват различни задачи.

Бюджетът на ВВС за фискалната 2024 г. включва допълнително разпределение за подпомагане на изпълнението на програмата Project Venom (Experimentation Viper и следващо поколение Operations Model) за провеждане на експерименти за автономни полети на изтребители F-16. През декември 2022 г. американският изтребител VISTA X-62A извърши дванадесет тестови полета под контрола на изкуствен интелект, летейки общо повече от 17 часа в автономен режим.

Програмата Skyborg , която стартира през 2019 г., предвижда тестовете да продължат през 2023 г. А миналия ноември американските военни изстреляха автономно атакуващия хеликоптер Black Hawk за първи път, а през 2020 г. проведоха изпитания на ИИ програми за разузнавателни самолети

Мнозина в САЩ обаче посочват сериозни морални проблеми, които възникват, когато ИИ се използва за военни (и други) цели. Илон Мъск призова властите да регулират ИИ. Според него, без държавен контрол, бързо развиващият се изкуствен интелект може да се превърне в „опасност за обществото“ и да представлява заплаха за цялото човечество.

Повече от хиляда ИТ професионалисти преди това поискаха спиране на разработването на ИИ . Те заявиха, че ИИ започва да прихваща каналите, чрез които хората получават информация за света. И когато изкуственият интелект започне да разпространява лъжи, хората ще загубят контрола над своята цивилизация.

В Пентагона обаче програмите за използване на ИИ са стартирани, парите са отпуснати и експериментите продължават.

ПОДХОДЯЩА МУЗИКА ЗА ЛЮБИТЕЛИТЕ НА ЙОГА