Елена Ларина - Роботы-убийцы против человечества. Киберапокалипсис сегодня

Если Россия не включится в Третью производственную революции, если российские роботы не начнут на поле боя, в больницах и на сборочных линиях успешно конкурировать со своими железными или биотехнологическимии собратьями из США, Южной Кореи, Японии или Китая, то завтра Россия в лучшем случае станет добычей других цивилизаций, а в худшем – превратится в поле боя или трофей для различного рода террористических роев и сетей, транснациональных преступных синдикатов.

Пора понять, при всех политических, идеологических и иных разногласиях, все россияне, в конечном счете, – люди одной культуры. Говорим на русском языке. В этом смысле все мы – этнические русские, татары, евреи, чеченцы принадлежим к российской цивилизации. Если и дальше мы хотим оставаться самими собой, говорить и думать на родном языке, то пора отложить в сторону распри и начать делать Дело. Именно Дело, а ни что иное, является сегодня маркером, разделяющим на «своих» и «чужих», на добро и зло. Те, кто работает, производит реальные продукты или нужные услуги, создает что-то новое, двигает инновации, способствует производственной революции, помогает всему этому – на одной стороне. Те же, кто хочет оставаться в прошлом, не производить, а перераспределять, получать, воровать, преступая закон – на другой стороне. Это – чужие.

Рабочий доклад группы по технологическим угрозам при Массачусет-ском Технологическом институте. Извлечения из доклада.

Организация, запрещенная в РФ.

Организация, запрещенная в РФ.

Peter Singer, Wired for War (Penguin Group (USA) Incorporated, 2009), p. 179 and further, notably p. 203.

Министерство обороны США, Unmanned Systems Integrated Road Map FY2011-2036, p. 50, см. сайт http://publicintelligence.net/dod-unmanned-systems-integrated-roadmapfy2011-2036.

См. http: www.usaww1.com/World_War_1_Fighter_Planes.php4.

Nils Melzer, “Human Rights Implications of the usage of drones and unmanned robots in warfare”, исследование Подкомитета по правам человека Европейского парламента (2013), имеется на сайте http: www.europarl.europa.eu/committees/en/studies/html, p. 5.

«Хьюман райтс уотч», Losing Humanity: The Case Against Killer Robots (2012), р. 2, см. сайт http://www.hrw.org/reports/2012/11/19/losing-humanity-0. См. в ответ Michael Schmitt “Autonomous Weapons Systems and International Humanitarian Law: A Reply to the Critics” Harvard International Security Journal (forthcoming 2013), см. сайт http://harvardnsj.org/wp-content/uploads/2013/02/Schmitt-Autonomous-Weapon-Systems-and-IHL-Final.pdf)/ В целях содействия такому запрещению был создан Международный комитет по контролю роботизированного оружия (МККРО). См. http://icrac.net.

Ronald Arkin, Governing Lethal Behaviour in Autonomous Robots (CRC Press, 2009); Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, Policy Review, No. 176 (2012), см. сайт http://www.hoover.org/publications/policy-review/article/135336.

David Collingridge, The Social Control of Technology (Frances Pinter, 1980).

А/65/321.

Ф/65/321, стр. 13-27.

Международный пакт о гражданских и политических правах, статья 6, гарантирующая право на жизнь, и статья 4 (2) о недопустимости отступлений.

Arkin (см. сноску 8 выше). Р. 7; Noel Sharkey Automating Warfare: lessons learned from the drones, р. 2, см. сайт http://www.alfredoroma.it/wp-content/uploads/2012/05/Automated-warfare-Noel-Sharkey.pdf; Patrick Lin et al, Autonomous Military Robotics: Risk, Ethics, and Design (San Luis Obispo, California Polytechnic State University, 2008) p. 4, см. сайт http:/ethics.calpoly.edu/ONR_report.pdf.

Директива министерства обороны США, “Autonomy in Weapons Systems”, Number 3000.09 of 21 November 2012, Glossary Part II. См. также United Kingdom Ministry of Defence “The UK Approach to Unmanned Aircraft Systems” paras. 202-203, имеется на сайте http://www.gov.uk/government/publications/jdn-2-11-the-uk-approach-to-unmanned-aircraft-systems; см. также, «Хьюман райтс уотч» (см. сноску 7 выше), р. 2.

Singer, р. 67.

Это также касается «своеобразности», Singer (см. сноску 3 выше), р. 101.

См. http://usmilitary.about.com/library/milinfo/navyfacts/blphalanx.htm.

См. http://www.dtic.mil/cgi-bin/GeTRDoc?AD=ADA557876.

См. http://www.israeli-wеapons.com/weapons/aircraft/uav/harpy/harpy.html.

См. http://www.baesystems.com/product/BAES_020273/taranis.

См. http://www.as.northropgrumman.com/products/nucasx47b/assets/X-47B_Navy_UCAS_FactsSheet.pdf.

См. http://singularityhub.com/2010/07/25/armed-robots-deployed-by-south-korea-in-demilitarized-zone-on-trial-basis.

ВВС США, “UAS Flight Plan 200902047” (Washington, D.C., 2009) p. 41, см. сайт http://www.scribd.com/doc/17312980/United-States-Air-Force-Unmanned-Aircraft-Systems-Flight-Plan-20092047-Unclassified.

Ronald Arkin «Goverming Lethal Behaviour: Embedding Ethics in a Hybrid Deliberative/Reactive Robot Architecture” Technical Report GIT-GVU-07-11 p. 5, available from hrrp://www.cc.gatech.edu/ai/robot-lab.online-publicationv35.pdf.

Anderson and Waxman, pp. 2 and 13 and Singer, р. 379.

Gary Marchant et al, «International governance of autonomous military robots”, Columbia Science and Technology Law Review, Volume XII (2011) p. 275.

Singer, р. 83.

Arkin, XII.

А/65/321, пункт 44; John Mueller “The Iraq Syndrome”, Foreign Affairs, Vol. 84, No. 6, p. 44 (November/December 2005).

По мнению военных экспертов, чем больше расстояние между применяющим оружие и целью, тем легче, как правило, становится лишить человека жизни. См. David Grossman On Killing: The Psychological Cost of Learning to Kill in War and Society (Back Bay Books, 1996).

Armin Krishnan Killer robots: Legality and Ethicality of Autonomous Weapons (Ashgate, 2009) p. 150.

Singer, р. 323; Peter Asaro “How Just Could a Robot War Be?” in P. Brey et al (eds.). Current Issues in Computing And Philosophy (2008), p. 7.

A/53/202, пункт 98.

Asaro, рр. 7-9. Обсуждается в работе Patrick Lin et al “Robots in War: Issues of Risk and Ethics” in R. Capurro & M. Nagenborg (eds.) Ethics and Robotics (2009), p. 57.

Anderson and Waxman, р. 12.

По мнению некоторых комментаторов, война требует определенной готовности пойти на обоюдный или взаимный риск, связанный с возможностью понести определенные жертвы. См. Kahn “The Paradox of Riskless Warfare” Philosophy and Public Policy Vol. 22 (2002) и “War and Sacrifice in Kosovo” (1999), см. сайт http://www-personal.umich.edu/-elias/Courses/War/kosovo.htm.

Lin, р. 50.

Marchant, р. 280; Singer, р. 398.

Arkin, р. 127.

Jonathan Herbach “Into the Caves of Steel: Precaution, Cognition and Robotic Weapons Systems Under the International Law of Armed Conflict” Amsterdam Law Forum Vol. 4 (2012), p. 14/

Дополнительный протокол I к Женевским конвенциям, 1977, статьи 51 и 57.

Noel Sharkey “Grounds for Discrimination: Autonomous Robot Weapons” RUSI Defence Systems (Oct 2008) pp. 88-89, имеется на сайте http://rusi.org/downloads/assets/23sharkey.pdf.

Peter Asaro “On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanisation of Lethal Decision-making”, International Review of the Red Cross (forthcoming 2013) p. 11/

«Хьюман райтс уотч», р. 31.

Marchant, р. 280.

Singer, р. 398.

Singer, р. 398.

Дополнительный протокол I к Женевским конвенциям, 1977, статья 51 (5) (b).

«Хьюман райтс уотч», р. 32.

Lin, р. 57.

Noel Sharkey, “Automated Killers and the Computing Profession” Computer, Vol. 40 (2007), p. 122.

Krishnan, рр. 98-99.

Tonya Hagmaier et al, “Air force operations and the law: A guide for air, space and cyber forces” p. 21, см. сайт http://www.afjag.af.mil/shared/media/document/AFD-100510-059.pdf; Andru Wall “Legal and Ethical Lessons of NATOs Kosovo Campaign” p. xxiii, см. сайт http://www.au.af.mil/au/awc/awcgate/navy/kosovo_legal.pdf.

Markus Wagner «The Dehumanization of International Humanitarian Law: Legal, Ethical, And Political Implications of Autonomous Weapon Systems” (3012), см. сайт http://robots.law.miami.edu/wp-content/uploads/2012/01/Wagner_Dehumanization_of_international_humanizatian_law.pdf note 96 и сопутствующий текст.

Benjamin Kastan «Autonomous Weapons Systems: A Coming Legal Singularity?”University of Illinois Journal of Law, Technology and Policy (forthcoming 2013), p. 18 and further, см. сайт http://papers.ssrn.com/so13/papers.cfm?abstract_id=2037808.

«Хьюман райтс уотч», рр. 42-45.

Римский статус МУС, статья 28; Heather Roff “Killing in War: Responsibility, Liability and Lethal Autonomous Robots” p. 14, см. сайт http://www.academia.edu/2606840/Killing_in_War_Responsibility_Liability_and_Lethal_Autonomous_ Robots.

Дополнительный протокол I к Женевским конвенциям, 1977, статьи 86 (2) и 87.

Patrick Jin “Introduction to Robot Ethics” in Patrick Lin et al (eds.) Robot Ethics: The ethical and Social Implications of Robotics (MIT Press, 2012), p. 8.

Wendell Wallach “From Robots to Techno Sapiens: Ethics, Law and Public Policy in the Development of Robotics and Neurotechnologies” Law, Innovation and Technology Vol. 3 (2011) p. 194.

Gianmarco Verugio and Keith Abney “Roboethics: The Applied Ethics for a New Science” in Lin (see note 59 above), p. 114; Robert Sparrow “Killer Robots” Journal of Applied Philosophy Vol. 24, No. 1 (2007).

См. Ronald Arkin “The Robot didn’t do it” Position Paper for the Workshop on Anticipatory Ethics, Responsibility and Artificial Agents p. 1, см. сайт http://www.cc.gatech.edu/ai/robot-lab/publications.html.

Marchant, р. 7.

Krishman, р. 105.

Krishman, р. 113.

A/HR/17/28, с. 17 текста на английском языке.

Asaro, р. 13.