Робоэтика

Робоэтика (сокр. от «этика робототехники») — междисциплинарная исследовательская деятельность, находящаяся на стыке этики и робототехники и направленная на изучение процесса интеграции роботов в человеческое общество. Робоэтика описывает социальные, моральные и юридические аспекты взаимодействия робота и человека. Основная задача робоэтики — развитие научных, культурных и технических средств, которые могут способствовать развитию робототехники и предотвратить её использование против человечества. Некоторые специалисты, занимающющиеся вопросами робоэтики, называют себя киберфилософами[1].

Понятие робоэтики — частный случай понятия этики искусственного интеллекта (ИИ), которое рассматривает в принципе наличие сознания у ИИ и способность машин к мышлению[1].

Актуальность

Человеческая культура устроена крайне сложно, и когда роботы станут её частью, важно обеспечить их грамотную интеграцию. Необходимость изучения робоэтики в современном мире вызвана прежде всего увеличением количества тех ситуаций, когда искусственный интеллект принимает решения, которые могут причинить вред человеку. Так, в случае, если одна из жертв неизбежна, что должен выбрать беспилотный автомобиль: сбить взрослого, находящегося на пешеходном переходе, или ребёнка, перебегающего дорогу в неположенном месте?

Возможность принимать самостоятельные решения — единственный для роботов способ преодолеть проблему взаимодействия с людьми, поведение которых носит изменчивый и иррациональный характер. Соответственно, робоэтика — необходимый элемент адаптации искусственного интеллекта в человеческом обществе. Чем сложнее становятся роботы, тем большего регулирования они требуют с точки зрения безопасности и норм морали. Основная задача робоэтики — сделать взаимодействие с роботами безопасным и эффективным для человека.

Также стоит проблемный вопрос о том, какими методами можно вложить в роботов представления о правильном и неправильном, дозволенном и недозволенном. Кроме того, важно определить, кто будет нести ответственность за сбой в алгоритмах робота, приведший к негативным последствиям: хозяин робота или разработчик. Для решения этих вопросов необходимо прежде всего создание правовых норм для регуляции этой зоны ответственности.[2]

История явления. Законы Азимова

Начиная с середины XX века представления о робоэтике базировались на законах АзимоваТри закона робототехники») — в 1942 году американский писатель-фантаст Айзек Азимов в рассказе «Хоровод» сформулировал свои Три закона роботехники[3]:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

В одном из рассказов цикла Азимов вложил в уста своего персонажа мысль об этической основе Трёх Законов:

"…если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле… "[3]

Позднее Азимов сформулировал основополагающий нулевой закон, главенствующий над остальными[3]:

0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.

В настоящий момент многие ученые высказываются о том, что законы Азимова применимы лишь к научной фантастике, и потому нуждаются в переработке и адаптации к современным реалиям.

Роджер Кларк, ведущий учёный планетологического института США, посвятил ряд научных работ исследованию возможностей применения законов Азимова на современной технике.

Он пишет:

«Азимовские Законы роботехники стали успешным литературным инструментом. Возможно по иронии, а может, это был мастерский ход, но в целом азимовские истории опровергают ту точку зрения, с которой он начал: Невозможно надёжно ограничить поведение роботов, изобретая и применяя некоторый набор правил».[4]

Международный симпозиум по робоэтике

В 2004 году в Сан-Ремо прошёл Первый Международный симпозиум по робоэтике, в котором приняли участие инженеры, учёные, философы, социологи, антропологи и литераторы из разных стран.

Целью симпозиума было создание условий для диалога между экспертами из различных областей знаний. В ходе дискуссии были подняты вопросы о том, владеют ли интеллектуальные роботы сознанием, испытывают ли чувства и представляют ли опасность для человечества.

Эксперты выразили обеспокоенность в связи с наступлением машин на человечество по четырём фронтам сразу:

  • массовое создание роботов для военных целей;
  • внедрение искусственных механизмов управления в мозг живого человека, подобно экспериментам с лабораторными крысами;
  • увеличение физической силы роботов на фоне недостаточного интеллектуального развития;
  • непредсказуемость человеческой реакции на присутствие роботов в повседневной жизни.[5]

Основные принципы современной робоэтики

На конференции Beneficial AI 2017 почти 1000 исследователей в области искусственного интеллекта и робототехники и около 1500 экспертов в других сферах, включая CEO Tesla Илона Маска и знаменитого физика Стивена Хокинга обсуждали безопасность искусственного интеллекта и возможные пути его дальнейшего развития. Целью мероприятия стало привлечь внимание общественности к искусственному интеллекту, добиться того, чтобы робоэтика и машинная мораль перестали быть маргинальными в общественном сознании. По итогам конференции участники составили и подписали список из 23 пунктов.

Ниже приведены некоторые из них, относящиеся непосредственно к вопросам робоэтики:

  • Искусственный интеллект должен быть спроектирован и использован так, чтобы быть совместимым с идеалами человеческих достоинства, прав, свобод и культурного разнообразия.
  • При работе с персональными данными ИИ не должен необоснованно ограничивать реальные или мнимые свободы людей.
  • Действия ИИ должны идти на пользу человеческой деятельности, а не во вред.
  • Суперразум должен будет служить всему человечеству, а не конкретной частной организации или государству.[6]

Критика

В ходе первого Международного симпозиума по робоэтике (2004) некоторые ученые отнеслись критически к необходимости изучения этики искусственного интеллекта, так как в целом этическая сторона вопроса, по их мнению, нерелевантна для сферы высоких технологий.

В частности, Брюс Стерлинг, один из участников конференции, ставит под сомнение актуальность робоэтики как философской дисциплины. В статье «Robots and the rest of us» он пишет следующее[7]:

С каких пор машинам нужен этический кодекс? В течение 80 лет провидцы представляли себе роботов, которые выглядят как мы, работают как мы, воспринимают мир, судят его и принимают меры самостоятельно. Робот-дворецкий все ещё такой же мистический, как летающий автомобиль.

Создание разумных роботов означает попытки приблизить искусственный интеллект к естественному, а значит наделение роботов свободной волей. По мнению ряда учёных, роботы должны оставаться лишь машиной для удовлетворения потребностей человека, наделение их сознанием и способностью испытывать чувства противоречит самой идее их создания и потенциально несет в себе опасность.[8]

См. также

Примечания

  1. 1 2 Синица А. С. Морально-этические аспекты теории искусственного интеллекта // Молодой ученый. — 2015. — №18. — С. 419-423.
  2. Перевод принципов по робоэтике от IEEE. Rusian Behavioral Unit. 2 издание, 2017. С. 17-18.
  3. 1 2 3 Азимов, А. Улики // Мечты роботов. — М.: Эксмо, 2004. — С. 142—169. — ISBN 5-699-00842-X.
  4. Clarke, Roger. Asimov’s laws of robotics: Implications for information technology. IEEE Computer, декабрь 1993, С. 53—61.
  5. The ethics, social, humanitarian and ecological aspects of Robotics URL: http://www.roboethics.org/sanremo2004/ Архивная копия от 18 ноября 2018 на Wayback Machine
  6. James Grabey. Stephen Hawking and Elon Musk Endorse 23 Principles for A.I., 2017. URL: https://www.inverse.com/article/27349-artificial-intelelgence-ethis-safety-asilomar Архивная копия от 10 декабря 2018 на Wayback Machine
  7. Sterling, Bruce. Robots and the rest of us, 2004. URL: https://www.wired.com/2004/05/robots-and-the-rest-of-us/ Архивная копия от 29 апреля 2017 на Wayback Machine
  8. Степанова Е. Место обучения робоэтике в системе современного образования. Муниципальное образование: инновации и эксперимент № 6, 2011. С. 74 — 77.

Литература

  • Синица А. С. Морально-этические аспекты теории искусственного интеллекта // Молодой ученый. — 2015. — № 18. — С. 419—423.
  • Азимов, А. Улики // Мечты роботов. — М.: Эксмо, 2004. — С. 142—169. — ISBN 5-699-00842-X.
  • Степанова Е. Место обучения робоэтике в системе современного образования. Муниципальное образование: инновации и эксперимент № 6, 2011. С. 74 — 77.
  • Перевод принципов по робоэтике от IEEE. Rusian Behavioral Unit. 2 издание, 2017. С. 17-18.

Read other articles:

Nordisk familjebok Bokrygg för uggleupplagan.InformationLand SverigeSpråkSvenskaGenreUppslagsverkUtgiven1876–1899 (första upplagan)1904–1926 (andra upplagan)1923–1937 (tredje upplagan)1951–1957 (fjärde upplagan))1993 (femte upplagan) Nordisk familjebok är ett klassiskt svenskt uppslagsverk. Den första upplagan kom ut i 20 volymer under åren 1876–1899. Den andra upplagan, vanligen kallad Uggleupplagan, kom ut i 38 volymer 1904–1926. Senare trycktes ytterligare tre konce...

 

 

Jefri Van NovisLahir1982Bukittinggi, Sumatera BaratKebangsaanIndonesiaAlmamaterUniversitas Andalas, PadangPekerjaanPengusahaDikenal atasPendiri Bonita Tour & Travel Jefri Van Novis, SE. (lahir di Bukittinggi, Sumatera Barat, 1982) adalah seorang pengusaha muda Indonesia. Ia merupakan pendiri Bonita Tour & Travel, yang mengelola usaha tour and travel di bawah bendera PT. Bonita Pratama. Saat ini Bonita Tour & Travel telah mempunyai lebih dari 148 mitra usaha di seluruh Indonesia.&...

 

 

BumkeyNama asal권기범LahirKwon Ki-bum22 September 1984 (umur 39)Seongbuk-dong, Seoul, Korea SelatanPekerjaanPenyanyi, rapperTahun aktif2010–sekarangSuami/istriKang Da-hye (m. 2014)Anak1Karier musikGenreR&B, Hip hop KoreaLabelBrand New MusicArtis terkaitTroy, Verbal Jint, Dynamic Duo, Supreme Team, Infinite HSitus webwww.brandnewmusic.co.kr Kwon Ki-bum (Hangul: 권기범, lahir 22 September 1984), lebih dikenal sebagai Bumkey (Hangul: 범키), adalah penyanyi R&B K...

Aspect ratio of a displayed image This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Widescreen – news · newspapers · books · scholar · JSTOR (April 2008) (Learn how and when to remove this message) Classic television aspect ratio 4:3, and two wider ratios Widescreen in a control room Widescreen images are disp...

 

 

Domestic first-class cricket competition in Zimbabwe Logan CupCountries ZimbabweAdministratorZimbabwe CricketFormatfirst-classFirst edition1993-94Latest edition2023-24Number of teams5Current championMountaineers (5th title)Most successfulMashonaland (9 titles) 2023–24 Logan Cup The Logan Cup is the premier domestic first-class cricket competition in Zimbabwe and is organised by Zimbabwe Cricket. It is named after James Douglas Logan.[1] History The first recorded cricket match in wh...

 

 

English journalist and television presenter Jon SnowHonFRIBABornJonathan George Snow (1947-09-28) 28 September 1947 (age 76)Ardingly, EnglandEducationScarborough TECUniversity of LiverpoolOccupation(s)Journalist, television presenter, news anchorYears active1973–presentNotable creditChannel 4 News (1989–2021)Spouse Precious Lunga ​(m. 2010)​PartnerMadeleine Colvin (separated)Children3RelativesGeorge Snow (father)Peter Snow (cousin)Dan Snow (cousin) J...

Saint-Jean-des-EssartiersfrazioneSaint-Jean-des-Essartiers – Veduta LocalizzazioneStato Francia Regione Normandia Dipartimento Calvados ArrondissementVire CantoneAunay-sur-Odon ComuneVal de Drôme TerritorioCoordinate49°03′N 0°50′W / 49.05°N 0.833333°W49.05; -0.833333 (Saint-Jean-des-Essartiers)Coordinate: 49°03′N 0°50′W / 49.05°N 0.833333°W49.05; -0.833333 (Saint-Jean-des-Essartiers) Superficie8,33 km² Abitanti207[1 ...

 

 

A fazil madrasa of Bangladesh Sayedpur Karamatia MadrasahAcademic buildingLocationSayedpur, Parul Union,Pirgacha Upazila, Rangpur DistrictBangladeshInformationReligious affiliation(s)Sunni (Hanafi)Established1 November 1952; 71 years ago (1952-11-01)FounderAlhaj Muhammad Sulaiman Miah ToranLanguageBengaliWebsite127734.ebmeb.gov.bd Sayedpur Karamatia Bilateral Fazil Madrasah (Arabic: المدرسة الفاضلية الكرامتية بِسيّدفور, Bengali: সৈয়�...

 

 

Artikel ini sebatang kara, artinya tidak ada artikel lain yang memiliki pranala balik ke halaman ini.Bantulah menambah pranala ke artikel ini dari artikel yang berhubungan atau coba peralatan pencari pranala.Tag ini diberikan pada Januari 2023. Undertale Publikasi 15 September 2015 OS X, Windows 15 September 2015 Linux 17 Juli 2016 PS4, PS Vita 15 Agustus 2017 Nintendo Switch 18 September 2018 Xbox One 16 Maret 2021 GenreBermain peranBahasa Daftar Inggris dan Jepang 60 Karakteristik teknisPla...

Italian painter Virgin of Humility, adored by a prince of the House of Este, 1440. Notice the Pseudo-Kufic mantle hem. Louvre Museum. Jacopo Bellini (c. 1400 – c. 1470) was one of the founders of the Renaissance style of painting in Venice and northern Italy. His sons Gentile and Giovanni Bellini, and his son-in-law Andrea Mantegna, were also famous painters.[1] Few of Bellini's paintings still exist, but his surviving sketch-books (one in the British Museum and one in the Louvre) s...

 

 

Questa voce sull'argomento sali è solo un abbozzo. Contribuisci a migliorarla secondo le convenzioni di Wikipedia. Bitartrato di potassio Nomi alternativicremorecremor tartaroidrogenotartrato di potassio Caratteristiche generaliFormula bruta o molecolareC4H5KO6 Massa molecolare (u)188,14 g/mol Aspettosolido da incolore a bianco Numero EINECS212-769-1 PubChem23666342 e 21930556 SMILESC(C(C(=O)[O-])O)(C(=O)O)O.[K+] Proprietà chimico-fisicheSolubilità in acqua5,7 g/l (20 °C) Temperatur...

 

 

Questa voce sull'argomento contee dell'Indiana è solo un abbozzo. Contribuisci a migliorarla secondo le convenzioni di Wikipedia. Contea di VermillionconteaContea di Vermillion – VedutaSede della Contea a Newport LocalizzazioneStato Stati Uniti Stato federato Indiana AmministrazioneCapoluogoNewport Data di istituzione1824 TerritorioCoordinatedel capoluogo39°51′00″N 87°27′36″W39°51′00″N, 87°27′36″W (Contea di Vermillion) Superficie673 km² Abitanti16...

  لمعانٍ أخرى، طالع هرمز (توضيح). يفتقر محتوى هذه المقالة إلى الاستشهاد بمصادر. فضلاً، ساهم في تطوير هذه المقالة من خلال إضافة مصادر موثوق بها. أي معلومات غير موثقة يمكن التشكيك بها وإزالتها. (مارس 2016) هرمز معلومات شخصية الخدمة العسكرية الرتبة قائد وحدة  تعديل مصدري - �...

 

 

Не следует путать с Антонией Марией Португальской (1845—1913). Мария Антонияпорт. Maria Antónia Adelaide Camila Carolina Eulália Leopoldina Sofia Inês Francisca de Assis e de Paula Micaela Rafaela Gabriela Gonzaga Gregória Bernardina Benedita Andrea Титулярная герцогиня Пармская[итал.] 14 января 1884 — 16 ноября 1907 Предшественник Мария Пия Бурбон-С�...

 

 

Branch of mathematics This article is about a branch of mathematics. For the book by Robin Hartshorne, see Algebraic Geometry (book). For the journal, see Algebraic Geometry (journal). For an algebraic structure, see Geometric algebra. This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Algebraic geometry – news · newspapers ...

La cultura di Pantalica prende il nome dall'omonimo sito da cui si è diffusa questa cultura della preistoria siciliana. Indice 1 Caratteristiche culturali 1.1 Le facies 1.2 Le tombe 1.3 Le ceramiche 1.4 Gli oggetti quotidiani 2 Note 3 Altri progetti Caratteristiche culturali La cultura di Pantalica si è diffusa in diverse parti della Sicilia, con una predilezione per località in posizione strategica, ad esempio un punto alto da dove controllare le varie fonti di sussistenza come pascoli, b...

 

 

This article is about the Aerosmith song. For the Van Halen song, see Can't Stop Lovin' You. For other songs with a similar title, see I Can't Stop Loving You (disambiguation). This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Can't Stop Lovin' You Aerosmith song – news · newspapers · books · scholar · JS...

 

 

Robert Herdman by William Brodie, 1859, Scottish National Portrait Gallery John Campbell Shairp by Robert Herdman (1886) The Execution of Mary, Queen of Scots Herdman's house at 12 Bruntsfield Crescent, Edinburgh Robert Herdman's grave, Grange Cemetery Robert Inerarity Herdman RSA RSW (17 September 1829 – 10 January 1888) was a Victorian artist specialising in portraiture and historical compositions. He is also remembered for a series of pastoral scenes featuring young girls.[1] He ...

Political party in the French Third Republic This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Republican Federation – news · newspapers · books · scholar · JSTOR (November 2014) (Learn how and when to remove this message) Republican Federation Fédération républicainePresidentPhilippe Henriot (last)FounderJ...

 

 

1798 naval battle of the French Revolutionary Wars Action of 15 July 1798Part of the Mediterranean campaignduring the War of the Second CoalitionCapture of the Dorothea, 15 July 1798, Thomas WhitcombeDate15 July 1798LocationOff Cartagena, Mediterranean SeaResult British victoryBelligerents  Great Britain SpainCommanders and leaders Manley Dixon Felix O'NeilStrength 1 ship of the line 4 frigatesCasualties and losses 2 wounded 52 killed and wounded 1 frigate capturedvteAnglo-Spanish War(17...