Mimo kontrolu

ÚVODNÍK: Zatímco státy dychtivě investují do autonomních zbraní a častěji zaměstnávají drony, měli bychom se zeptat sami sebe, jestli chápeme dlouhodobé důsledky.
Truls Lie
Šéfredaktor, Modern Times Review
Datum vydání: 1. srpna 2019
dron-zbraň

Když byl sestřelen dron, který USA minulý měsíc poslaly na íránské území, Američané ho politicky využívali v souladu s jejich tendencí zhoršovat vojensko-průmyslové šílenství na celém světě. V současné době se svět stal nebezpečnějším místem pro život. Podařilo se jim přimět Írán k zahájení obohacování uranu pro jaderné zbraně. Země může být zničena již za 7-8 minut.

Ale to není můj názor, když si vyberu titul «Mimo kontrolu». Ve veřejném a duševním prostředí, kde je trestný čin všudypřítomný - tendence dychtivě podporovaná masmédii - lidé neustále hledají nové nepřátele. A s dostatečným počtem nepřátel nebo «teroristů» číhajících kolem každého rohu, výdaje závratných 1600 miliard dolarů pr. rok je stráven udržet vojenský průmysl v chodu. V takovém klimatu jsou neustále vyvíjeny nové zbraňové systémy, jako jsou bezpilotní bezpilotní letouny.

Spies

Například čas, kdy špehové plavali na břeh z ponorek, brzy skončí. Nahradí místo Drones. Americká námořní síla vyvinula Heterogenní kolaborativní bezpilotní systémy (HCUS), uvolňující jeden nebo více dronů («zapouzdřené užitečné zatížení») z ponorek. Nebo školy podvodních dronů se vznášejí ve vodě a čekají na rozkazy - akusticky identifikují nepřátelské válečné lodě a ponorky.

As The Economist zmíněné 22. července, drony - možná další v Íránu - budou moci uvolnit řadu senzorů poháněných solárním panelem, maskovaných jako kameny, které budou vykazovat informace ze svých kamer a mikrofonů z různých pozic a kdo může také poslouchat rádiový provoz a místní signály.

Pravděpodobně budou vyrobeny drony, které budou soběstačné, zásobují se a vyzbrojují se - opakovat své činy. Roje robotů budou také schopny spolupracovat a přizpůsobovat se novým situacím - v probíhající bitvě mezi strojem a člověkem.

Už jsme obeznámeni s tím, jak mohou bezpilotní ozbrojené drony (jako BlackWing) vyhladit vozidla, místní arzenály nebo vybrané jedince. Na rozdíl od živých vyzvědačů, kteří mohou trpět zachycením a výslechem, jsou drony levnými „spotřebitelskými produkty“, jejichž původ je obtížně vysledovatelný.

Zákaz

Vědci, vedoucí podniků a politici nedávno podepsali kampaň proti vývoji smrtících autonomních zbraní - tzv. Zabijáckých robotů. Toby Walsh, profesor na University of New South Wales, který navštívil University of Oslo v červnu, nám řekl, že 4500 aktivních vědců v oblasti umělé inteligence a robotů podepsalo smlouvu - spolu s 30 000 dalšími. Prorektorka Morten Irgens z Oslo Mets nám řekla, že Norsko také získalo 680 podpisů od akademiků, ředitelů univerzit vědcům v oboru. Jejich cílem je dosáhnout dohody o zákazu smrtících autonomních zbraní, jak jsme to udělali s chemickými zbraněmi, pozemními minami a kazetovými bombami.

«Stroje, které mají moc a prostor pro rozhodování o lidských životech, jsou politicky nepřijatelné, morálně odporné a měly by být zakázány mezinárodním právem»

Jak zdůrazňuje generální tajemník OSN, António Guterres upozorňuje, že umělá inteligence může uvolnit nový závod se zbraněmi - který je mimo kontrolu. „Stroje, které mají moc a prostor pro rozhodování o lidských životech, jsou politicky nepřijatelné, morálně odporné a měly by být podle mezinárodního práva zakázány“. V OSN se ujalo vedení při navrhování zákazu 28 zemí, mezi nimi i Rakousko, Brazílie a Chile, které USA, Izrael a Rusko okázale zablokovaly.

Zároveň budou někteří tvrdit, že účinné válečné stroje mohou být lepší než lidé, plné agrese a strachu. A co kdybychom mohli vytvořit algoritmy v souladu s Genève-konvencí o nelidských zbraních a dalšími zákony, aby válčení ušetřilo civilisty.

Více kontroly. Ano, proč nenechat «zabijácké roboty» vzájemně bojovat. Nebo ještě lépe: nechte nepřátele hrát své války jako šachovou hru. Jak však panel dospěl k závěru: toto není způsob, jakým světoví vůdci vedou války. Přesto Walsh doufá, že Oslo bude schopno se ujmout vedení - jako tomu bylo při zahájení kampaně proti kazetovým bombám v roce 2007.

Google

Vojenská analytička Cecilie Hellestvedt, která se zúčastnila programu OsloMet, měla pochybnosti, zda by zákaz byl stejně účinný jako ten, který byl namířen proti kazetovým bombám. Zúčastňuje se etického výboru norského ropného fondu, pracuje s investicemi a zvažuje, z jakých částí vojensko-průmyslového komplexu by měla být aktiva vyňata.

Ne, umělou inteligenci nelze jednoduše zakázat, takže potřebujeme další jednání. A když se zeptal, zda státy budou takový zákaz dodržovat, zmíní se o tom, jak zaměstnanci společnosti Google protestovali z obavy civilistů. Zastavili projekt Pentagonu společnosti Google. A pokud tuto záležitost podrobně prozkoumáte, zjistíte také, že Google zavedl „etické pokyny“ pro kontrolu umělé inteligence. Kromě služeb pro sociální účely a práva na soukromí nesmí společnost Google pracovat se zbraněmi nebo „škodlivými technologiemi porušujícími mezinárodní právo nebo lidská práva“.

Aktivismus

Ale co budoucí scénáře, kde budou nové zbraně vyvinuté armádou použity proti nám od nevládních stran. Autonomní zbraně naprogramované na nevratné akce jednou skončí v rukou teroristů nebo militantních skupin mimo vládní kontrolu. Cokoli přijde od vlád a armád, stane se také prostředkem pro ty, kteří «udeří zpět».

Před 25 lety IRA zaútočila na letiště Heathrow bombami při třech různých příležitostech. Nikdo nebyl zabit, i když letiště bylo na několik hodin uzavřeno. Zánik povstání (XR) hrozilo zasláním hostinských levných 100 dolarových robotů, aby zastavili veškerou leteckou dopravu - v průměru 1300 letů s 220 000 cestujícími. Akce byla protestem proti výstavbě třetího letiště. Kampaň byla zrušena jeden den před plánovaným datem 18. června - následovaly hrozby, které by se znovu začaly opakovat. Nebezpečný? XR navrhl, že budou létat jen pár metrů nad zemí v pětikilometrové zóně ...

Má letiště skutečnou schopnost bránit se proti takovým činnostem občanské neposlušnosti, které mohou také vést ke ztrátám nevinných lidských životů? V současné době existuje až 200 anti-dronových systémů konstruovaných pro objevování a sledování útočníků. Jsou rozmístěny pokročilé formy rušení rádia, elektronického lovu dronů a sítí a dravých ptáků, jako jsou orli a jestřábi.

A další civilní akce? Drony mohou být použity pro nevinnější účely, jako je stříkání graffiti, ale také pro zahájení požáru a střelných zbraní. Ve Venezuele se někdo pokusil tímto způsobem prezidenta zabít. A podle The Economist (15. června), aktivista přistál dron obsahující radioaktivní látku na majetku japonského předsedy vlády - který zůstal neobjevený několik týdnů.

Autonomní zbraně se vyvíjejí postupně, takže máme ještě nějaký čas jednat, než se rozšíří. Pokud chceme zákaz.


Vážení čtenáři. Tento měsíc můžete číst 3 bezplatné články. Prosím zaregistrujte se předplatné, nebo se přihlaste níže, pokud jej máte.


My v MODERN TIMES REVIEW potřebuje vaši podporu, aby pokračovala. Čtení je jen čtvrtletně, a získáte plný přístup k téměř 9 článkům, všem našim e-časopisům - a my vám zašleme nadcházející tištěné časopisy.