Искусственный интеллект. Этапы, Угрозы, Стратегии

Искусственный интеллект. Этапы. Угрозы. Стратегии
англ. Superintelligence: Paths, Dangers, Strategies
Автор Ник Бостром
Жанр научно-популярный
Язык оригинала английский
Оригинал издан 3 июля 2014
Страниц 496
ISBN 978-5-00057-810-0
Предыдущая Global Catastrophic Risks[вд]

«Искусственный интеллект. Этапы. Угрозы. Стратегии»[1] (англ. Superintelligence: Paths, Dangers, Strategies) — книга философа Ника Бострома вышедшая в 2014 году, в которой рассматриваются возможные последствия создания искусственного сверхинтеллекта[2]. Основным посылом книги является экзистенциальный риск[3] связанный с высокой вероятностью выхода из-под контроля искусственного сверхинтеллекта, как системы способной к самоулучшению и достижению промежуточных целей. В отличие от слабого ИИ такую систему станет трудно, или даже невозможно контролировать, что может привести к непредсказуемым последствиям для человеческого вида. В книге рассматриваются такие сценарии как использование сверхразумной системы своей силы для захваты власти и ресурсов, с целью достижения собственных целей[4]. Также рассматриваются варианты при которых будет создан сверхинтеллект работающий на благо человечества[5].

Краткое содержание

Вопрос о появлении искусственного интеллекта человеческого уровня остается неопределенным: это может произойти в ближайшие годы, в последующие десятилетия или даже в далеком будущем. Независимо от первоначальных сроков, как только будет разработан искусственный интеллект человеческого уровня, «сверхразумная» система, которая значительно превосходит когнитивные способности человека практически во всех областях, скорее всего, появится на удивление быстро. Таким сверхразумом станет очень трудно, или даже невозможно управлять.

Хотя конечные цели у сверхинтеллекта могут сильно различаться, действующий сверхинтеллект будет спонтанно создавать в качестве естественных подцелей инструментальные цели, например направленные на самосохранение, самоулучшение и обретение ресурсов. Искусственный сверхинтеллект будет активно сопротивляться любым внешним попыткам его отключения, или другим способам помешать достижению его целей. Чтобы предотвратить экзистенциальную катастрофу должна быть решена проблема согласования искусственного интеллекта. Решением может стать внедрение в сверхразумную систему целей, совместимыми с выживанием и благополучием человечества. Решить проблему согласования на удивление сложно, поскольку большинство целей при переводе их в машинно-реализуемый код приводит к непредсказуемым и даже вредным последствиям[6].

Общественная значимость

Книга заняла 17-е место в списке самых продаваемых научных книг The New York Times в августе 2014 года[7]. В том же месяце Илон Маск выступил с речью о том, что искусственный интеллект с разумом превосходящим человеческий потенциально более опасен, чем ядерное оружие.[8][9][10] Работа Ника Бострома по искусственному интеллекту также оказала влияние на Билла Гейтса, который согласился с экзистенциальными рисками, с которыми предстоит столкнуться человечество в предстоящем столетии.[11][12] В интервью генеральному директору Baidu Робину Ли в марте 2015 года Гейтс сказал, что «настоятельно рекомендует» книгу Ника Бострома[13]. В 2015 году Сэм Альтман написал что эта книга — лучшее, что он когда-либо читал о рисках связанных и искусственным интеллектом[14].

См. также

Примечания

  1. ↑ Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / Перевод С. Филина. — М.: Манн, Иванов и Фербер, 2016. — 446 с. ISBN 978-5-00-057810-0
  2. ↑ "Clever cogs. The potential impacts of intelligent machines on human life". The Economist. 2014-08-09. Архивировано 9 апреля 2024. Дата обращения: 25 февраля 2024.
  3. ↑ Chivers, Tom (2014-08-10). "Superintelligence by Nick Bostrom, review: 'a hard read'. Will the human quest for artificial intelligence end in disaster?". The Daily Telegraph. Архивировано 22 июня 2023. Дата обращения: 25 февраля 2024.
  4. ↑ Khatchadourian, Raffi (2015-11-23). "The Doomsday Invention. Will artificial intelligence bring us utopia or destruction?". The New Yorker. Архивировано 29 апреля 2019. Дата обращения: 25 февраля 2024.
  5. ↑ Henderson, Caspar (2014-08-14). "Superintelligence by Nick Bostrom and A Rough Ride to the Future by James Lovelock". The Guardian. Архивировано 21 октября 2015. Дата обращения: 25 февраля 2024.
  6. ↑ Adams, Tim (2016-06-12). "Artificial intelligence: 'We're like children playing with a bomb'". The Guardian. Архивировано 25 ноября 2023. Дата обращения: 25 февраля 2024.
  7. ↑ Best Selling Science Books (англ.). The New York Times (8 сентября 2014). Дата обращения: 25 февраля 2024. Архивировано 3 сентября 2021 года.
  8. ↑ Augenbraun, Eliene (2014-08-04). "Elon Musk: Artificial intelligence may be "more dangerous than nukes"". CBS News. Архивировано 25 февраля 2024. Дата обращения: 25 февраля 2024.
  9. ↑ Dean, James (2014-08-05). "Artificial intelligence 'may wipe out the human race'". The Sunday Times. Архивировано 25 февраля 2024. Дата обращения: 25 февраля 2024.
  10. ↑ Bratton, Benjamin H. (2015-02-23). "Outing A.I.: Beyond the Turing Test". The New York Times. Архивировано 25 февраля 2024. Дата обращения: 25 февраля 2024.
  11. ↑ Mack, Eric (2015-01-28). "Bill Gates Says You Should Worry About Artificial Intelligence". Forbes. Архивировано 19 февраля 2015. Дата обращения: 25 февраля 2024.
  12. ↑ Lumby, Andrew (2015-01-29). "Bill Gates Is Worried About the Rise of the Machines". The Fiscal Times[англ.]. Архивировано 5 июня 2019. Дата обращения: 25 февраля 2024.
  13. ↑ Baidu CEO Robin Li interviews Bill Gates and Elon Musk at the Boao Forum, March 29 2015 (англ.). YouTube (31 марта 2015). Дата обращения: 25 февраля 2024. Архивировано 25 февраля 2024 года.
  14. ↑ Black, Julia; Russell (2023-04-27). "He's played chess with Peter Thiel, sparred with Elon Musk and once, supposedly, stopped a plane crash: Inside Sam Altman's world, where truth is stranger than fiction". Business Insider. Архивировано 7 апреля 2024. Дата обращения: 25 февраля 2024. {{cite news}}: Указан более чем один параметр |first1= and |first= (справка)

Read other articles:

الدوري الأيرلندي 1944–45

يفتقر محتوى هذه المقالة إلى الاستشهاد بمصادر. فضلاً، ساهم في تطوير هذه المقالة من خلال إضافة مصادر موثوق بها. أي معلومات غير موثقة يمكن التشكيك بها وإزالتها. (نوفمبر 2019) الدوري الأيرلندي 1944–45 تفاصيل الموسم الدوري الأيرلندي  النسخة 24  البلد جمهورية أيرلندا  المنظم ا�...

 

Orang Bawean di Malaysia

Komunitas orang Bawean di Singapura pada tahun 1910. Suku Bawean adalah salah satu suku bangsa yang ada di Malaysia. Di Malaysia dan Singapura orang Bawean lebih dikenal dengan sebutan orang Boyan atau orang Phabean.[1] Kata Boyan sebenarnya bermakna sopir atau tukang kebun, karena pada saat awal migrasi orang Bawean di Malaysia dan Singapura banyak yang bekerja sebagai sopir atau tukang kebun. Suku Bawean adalah suku bangsa yang berasal dari Pulau Bawean di Jawa Timur, Indonesia. Min...

 

Gabriel Milito

Gabriel Milito Milito bermain untuk ArgentinaInformasi pribadiNama lengkap Gabriel Alejandro MilitoTanggal lahir 7 September 1980 (umur 43)Tempat lahir Bernal, ArgentinaTinggi 1,79 m (5 ft 10+1⁄2 in)Posisi bermain BekKarier junior IndependienteKarier senior*Tahun Tim Tampil (Gol)1997–2003 Independiente 123 (3)2003–2007 Zaragoza 137 (5)2007–2011 Barcelona 48 (1)2011–2012 Independiente 31 (0)Total 339 (9)Tim nasional2000–2012 Argentina 42 (1) * Penampilan da...

Phthinia

Phthinia Phthinia mira Klasifikasi ilmiah Kerajaan: Animalia Filum: Arthropoda Kelas: Insecta Ordo: Diptera Famili: Mycetophilidae Genus: Phthinia Phthinia adalah genus lalat yang tergolong famili Mycetophilidae. Lalat ini juga merupakan bagian dari ordo Diptera, kelas Insecta, filum Arthropoda, dan kingdom Animalia. Lalat dalam genus ini biasanya dapat ditemui di tempat lembap. Referensi Bisby F.A., Roskov Y.R., Orrell T.M., Nicolson D., Paglinawan L.E., Bailly N., Kirk P.M., Bourgoin T., B...

 

Elizabeth Gillies

Elizabeth GilliesGillies pada Emmy Awards ke 64 pada September 2012LahirElizabeth Egan Gillies26 Juli 1993 (umur 30)Haworth, New Jersey, A.S.[1]Nama lainLiz GilliesPekerjaanAktris, penyanyi, pengisi suaraTahun aktif2007–sekarangKarya terkenalDrama TVVictoriousiCarlyAnimasiWinx ClubKarier musikGenreAlternative rock, experimental rock, pop rockInstrumenVokalLabelColumbia RecordsSony Music Entertainment Elizabeth Egan Liz Gillies[2] (lahir 26 Juli 1993)[3 ...

 

TIROS-5

TIROS-5TIROS 5 satellite during inspection.Mission typeWeather satelliteOperatorNASAHarvard designation1962 αα1COSPAR ID1962-025A SATCAT no.309Mission duration11 months Spacecraft propertiesSpacecraft typeTIROSManufacturerRCA Astro / GSFCLaunch mass129.3 kilograms (285 lb)[1] Start of missionLaunch dateJune 19, 1962, 12:14 (1962-06-19UTC12:14Z) UTC[2]RocketThor-DeltaLaunch siteCape Canaveral LC-17A End of missionLast contactMay 14, 1963 (1963-05...

SARS-CoV-1

Halaman ini berisi artikel tentang jenis virus yang menyebabkan SARS. Untuk jenis yang menyebabkan COVID-19, lihat SARS-CoV-2. Untuk spesies yang memiliki kedua strain tersebut, lihat Koronavirus terkait sindrom pernapasan akut yang berat. SARS-CoV-1 Severe acute respiratory syndrome coronavirus PenyakitSARS TaksonomiSuperdomainBiotaDomainVirusDuniaRiboviriaKerajaanOrthornaviraeFilumPisuviricotaKelasPisoniviricetesOrdoNidoviralesFamiliCoronaviridaeSubfamiliOrthocoronavirinaeGenusBetacoronavir...

 

The Ritz-Carlton Hotel Company

Artikel ini mengenai hotel bermerek Ritz-Carlton Hotels, untuk kegunaan lain, lihat Ritz (disambiguasi) The Ritz-Carlton, Washington, D.C. Ritz-Carlton adalah sebuah merek hotel dan resor mewah dengan 70 properti yang terletak di kota-kota besar dan tempat resor eksklusif di 23 negara di seluruh dunia.[1] Merek The Ritz-Carlton dikelola oleh Ritz-Carlton Hotel Company LLC, sebuah anak perusahaan dari Marriott International. Ritz-Carlton Hotel Company saat ini memiliki 32.000 karyawan....

 

Saturnyne

Comics character SaturnynePublication informationPublisherMarvel Comics; Marvel UKFirst appearanceUK: The Mighty World of Marvel: Marvel Superheroes #381 (Jan 1982)US: Excalibur Special Edition (1987) #1Created byDave Thorpe Alan DavisIn-story informationAlter egoOpal Luna SaturnyneSpeciesHumanTeam affiliationsCaptain Britain CorpsNotable aliasesOmniversal Majestrix, Her Royal Whyness, White Witch Opal Luna Saturnyne is a fictional character appearing in American comic books published by Mar...

Murrawarri

Republik MurrawarriNegara mikro Bendera Lambang Semboyan: Life is a choice(Indonesia: Hidup adalah pilihan)Lagu kebangsaan: Hymn Murrawarri(Indonesia: Himne Murrawarri)Lokasi MurrawarriIbu kotaBarringunBahasa resmiInggrisStruktur OrganisasiRepublik Presidensial• Presiden Fred Hooper[1] Pendirian• Deklarasi Kemerdekaan 30 Maret 2013 Luas diklaim - Total81,000 km2[1]Mata uang yang diklaimDolar Australia[2]Zona waktuWaktu Australia Barat(...

 

Bassmaster Classic

Professional bass fishing tournamentThe Bassmaster Classic (known as the Bass Pro Shops Bassmaster Classic for sponsorship reasons) is a tournament in the sport of professional bass fishing, organized by the Bass Anglers Sportsman Society. It was first held in 1971 on Lake Mead, Nevada. Originally it was a fall event, (1971-1983) but it switched to a summer event in 1984 and then to a late winter event in 2006. Rick Clunn and Kevin VanDam have each won the event four times. Jordan Lee, Bobby ...

 

Ardoksho

Female deity of the Kushan Empire The fire god Pharro (left) and Ardoksho, in a Kushan sculpture found at Gandhara. The style is influenced by Greco-Buddhist art and Ardoksho is shown holding a cornucopia (upper right), a feature apparently adopted from the Greek goddess Tyche. Ardoksho (Bactrian script Αρδοχϸο), also Romanised as Ardochsho, Ardokhsho and Ardoxsho, the Iranic goddess of wealth was a female deity of the Kushan Empire, in Central and South Asia during the early part of t...

East Tennessee State Buccaneers football

Intercollegiate American football team For information on all East Tennessee State University sports, see East Tennessee State Buccaneers. East Tennessee State Buccaneers football2023 East Tennessee State Buccaneers football team First season1920; 104 years ago (1920)Athletic directorRichard SanderHead coachTre Lamb 1st season, 0–0 (–)StadiumWilliam B. Greene Jr. Stadium(capacity: 7,694)Field surfaceArtificialLocationJohnson City, TennesseeNCAA divisionDivision I FCSConf...

 

Civil marriage

Marriage performed, recorded, and recognized by a government official This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Civil marriage – news · newspapers · books · scholar · JSTOR (January 2010) (Learn how and when to remove this message) Edmund Leighton, The Wedding Register. A civil marriage is a marriage p...

 

Peter Lougheed

Premier of Alberta from 1971 to 1985 The HonourablePeter LougheedPC CC AOE QCPeter Lougheed in 198310th Premier of AlbertaIn officeSeptember 10, 1971 – November 1, 1985MonarchElizabeth IILieutenant Governor Grant MacEwan Ralph Steinhauer Frank C. Lynch-Staunton Helen Hunley Preceded byHarry E. StromSucceeded byDon GettyLeader of the Official Opposition in AlbertaIn officeFebruary 15, 1968 – April 27, 1971Preceded byMichael MaccagnoSucceeded byHarry StromMembe...

Springfield Armory, Inc.

American firearms manufacturer This article is about the contemporary commercial manufacturer and importer of firearms. For the former US Government arsenal, see Springfield Armory. Springfield Armory, Inc.Company typePrivately heldFounded1974; 50 years ago (1974)HeadquartersGeneseo, Illinois, USKey peopleDennis Reese, CEO[1]ProductsFirearmsWebsitespringfield-armory.com Springfield Armory, Inc., is an American commercial firearms manufacturer and importer based in Ge...

 

Hime-chan's Ribbon

Magical girl manga Hime-chan's RibbonCover of the first manga volume姫ちゃんのリボン(Hime-chan no Ribon)GenreMagical girl MangaWritten byMegumi MizusawaPublished byShueishaImprintRibon Mascot ComicsMagazineRibonDemographicShōjoOriginal runAugust 1990 – January 1994Volumes10 Anime television seriesDirected byHatsuki TsujiStudioStudio Gallop, NASOriginal networkTV TokyoOriginal run October 2, 1992 – December 3, 1993Episodes61 MangaHime-chan no Ribon ColorfulWritten&#...

 

Groupe C de la Coupe du monde de football 2018

Article principal : Coupe du monde de football 2018. Si ce bandeau n'est plus pertinent, retirez-le. Cliquez ici pour en savoir plus. Cet article ne cite pas suffisamment ses sources (août 2022). Si vous disposez d'ouvrages ou d'articles de référence ou si vous connaissez des sites web de qualité traitant du thème abordé ici, merci de compléter l'article en donnant les références utiles à sa vérifiabilité et en les liant à la section « Notes et références ». En...

Eparki Tara

Gereja di Tara Eparki Tara adalah sebuah eparki Gereja Ortodoks Rusia yang terletak di Tara, Federasi Rusia. Eparki tersebut didirikan pada tahun 2012.[1] Referensi ^ http://www.patriarchia.ru/db/text/2270689.html lbsKeuskupan Gereja Ortodoks RusiaPatriark MoskwaEparki di Rusia Abakan dan Khakassia Akhtubinsk Alapayevsk Alatyr Alexdanrov Almetyevsk Amur Anadyr Ardatov Arkhangelsk Armavir Arsenyev Astrakhan Balashov Barnaul Barysh Belgorod Belyov Bezhetsk Birobidzhan Birsk Biysk Blagov...

 

Lexus IS

Lexus IS Общие данные Производитель Toyota Motor Corporation Годы производства 1998 — настоящее время Класс средний Иные обозначения Toyota Altezza Дизайн и конструкция Тип кузова 4‑дв. седан (5‑мест.)5‑дв. универсал (5‑мест.)2‑дв. кабриолет (4‑мест.) Компоновка переднемоторная, ...