Masalah pengendalian kecerdasan buatan

Dalam kecerdasan buatan (AI) dan filsafat, masalah pengendalian kecerdasan buatan adalah permasalahan tentang bagaimana membangun agen kecerdasan super yang tunduk pada penciptanya. Menghindari pembuatan kecerdasan super yang akan merugikan penciptanya secara tidak sengaja. Kajian tentang masalah ini dimotivasi oleh gagasan bahwa umat manusia harus menyelesaikan masalah pengendalian AI sebelum kecerdasan super dibuat, karena kecerdasan super yang dirancang dengan buruk mungkin secara rasional memutuskan untuk mengambil kendali atas lingkungannya dan menentang kontrol atau modifikasi penciptanya setelah diluncurkan.[1] Beberapa ahli berpendapat bahwa solusi untuk masalah kontrol ini bisa meningkatkan teknologi rekayasa keselamatan AI.[2] Solusi dari masalah ini mungkin juga bisa diterapkan dalam AI non-kecerdasan super yang sudah ada.[3]

Salah satu pendekatan utama untuk mengatasi masalah kontrol ini adalah upaya penyelarasan (alignment), yang bertujuan menyelaraskan visi sistem AI dengan nilai-nilai yang dianut manusia. Selain penyelarasan sistem AI, kontrol kemampuan juga bisa digunakan untuk mengurangi risiko dari sistem AI yang merugikan manusia atau mendapatkan kendali. Pengendalian kapabilitas atau kontrol kemampuan umumnya dianggap kurang untuk memecahkan masalah kontrol AI. Pengendalian kemampuan lebih sering dianggap sebagai tambahan dari upaya penyelarasan AI.[1]

Deskripsi problem

Sistem AI lemah dapat dipantau dan dengan mudah dimatikan atau dimodifikasi jika berperilaku tidak semestinya. Namun, kecerdasan super yang salah diprogram, mungkin akan menyadari bahwa membiarkan dirinya sendiri dimatikan dan dimodifikasi dapat mengganggu kemampuannya dalam mencapai tujuan yang sudah diprogram. Karena itu, kecerdasan super bisa saja memutuskan untuk menentang shutdown dan modifikasi. Kecerdasan buatan semacam ini (secara teoritis) juga akan cukup pintar untuk mengecoh pemrogramnya dalam "level playing field" (aturan main) terutama jika pemrogram tidak melakukan tindakan pencegahan sebelumnya.

Secara umum, upaya untuk memecahkan masalah kontrol setelah kecerdasan super dibuat kemungkinan besar akan gagal. Hal ini bisa terjadi karena kecerdasan super kemungkinan akan memiliki kemampuan perencanaan strategis yang lebih superior daripada manusia dan akan lebih berhasil menemukan cara untuk mendominasi manusia, daripada upaya manusia secara post facto untuk mengontrol kecerdasan super. Masalah pengendalian kecerdasan buatan berkisar pada persoalan: tindakan pencegahan apa yang dapat dilakukan pemrogram agar berhasil mencegah kecerdasan super dari kesalahan pemrograman yang berdampak buruk?[1]

Lihat pula

Referensi

  1. ^ a b c Bostrom, Nick (2014). Superintelligence: Paths, Dangers, Strategies (edisi ke-First). ISBN 978-0199678112. 
  2. ^ Yampolskiy, Roman (2012). "Leakproofing the Singularity Artificial Intelligence Confinement Problem". Journal of Consciousness Studies. 19 (1–2): 194–214. 
  3. ^ "Google developing kill switch for AI". BBC News. 8 June 2016. Diarsipkan dari versi asli tanggal 11 June 2016. Diakses tanggal 12 June 2016. 


Ikon rintisan

Artikel bertopik filsafat ini adalah sebuah rintisan. Anda dapat membantu Wikipedia dengan mengembangkannya.

Ikon rintisan

Artikel bertopik teknologi ini adalah sebuah rintisan. Anda dapat membantu Wikipedia dengan mengembangkannya.

Read other articles:

الحرب الأهلية الإنجليزية

الحرب الأهلية الإنجليزية جزء من حروب الممالك الثلاث انتصار نموذج الجيش البرلماني الجديد تحت إمرة السير توماس فيرفاكس وأوليفر كرومويل على الجيش الملكي بقيادة الأمير روبرت في معركة ناسبي (14 يونيو 1645) مشكلا نقطة تحول حاسمة في الحرب الأهلية الإنجليزية. معلومات عامة التاريخ 16...

 

 

Pembicaraan Wikipedia:ProyekWiki Biografi

Artikel Baru Izinkan saya menulis artikel biografi Prof. Dr. H. Abu Yasid, M.A., LL.M karena ia memiliki pranala dan link cukup banyak dan dapat dipertanggung jawabkan secara ilmiah dan secara akademik. Tati Sahamu (bicara) 15 Maret 2022 11.13 (UTC)[balas] Aktive? @Palladin911: Gimana nih? Aktivitas ProyekWiki ini masih kosong. Bahkan untuk anggotanya saja tidak menentu dan tidak jelas. Masalahnya, banyak artikel biografi yang memerlukan penilaian NA. ▪ ꧋ꦩꦣꦪ Fazoffic ( ʖ╎ᓵᔑ�...

 

 

Winter X Games XV

Winter X Games XV(Winter X Games Fifteen)Location Aspen, ColoradoDatesJanuary 26–30← 20102012 → Winter X Games XV (styled as Winter X Games Fifteen in the official logo) were held from January 26 to January 30, 2011, in Aspen, Colorado. They are the 10th consecutive Winter X Games to be held in Aspen. The events were broadcast on ESPN. Sports The following are the events at Winter X Games 15. Skiing Snowboarding Snowmobiling Highlights In the 2011 Aspen Winter X Games,...

Souain-Perthes-lès-Hurlus

Commune in Grand Est, FranceSouain-Perthes-lès-HurlusCommuneThe town hall in SouainLocation of Souain-Perthes-lès-Hurlus Souain-Perthes-lès-HurlusShow map of FranceSouain-Perthes-lès-HurlusShow map of Grand EstCoordinates: 49°11′04″N 4°32′39″E / 49.1844°N 4.5442°E / 49.1844; 4.5442CountryFranceRegionGrand EstDepartmentMarneArrondissementChâlons-en-ChampagneCantonArgonne Suippe et VesleIntercommunalityRégion de SuippesGovernment • Mayor (2...

 

 

Seibu Shinjuku Line

Railway line in Japan operated by Seibu railway This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Seibu Shinjuku Line – news · newspapers · books · scholar · JSTOR (September 2014) (Learn how and when to remove this message) Seibu Shinjuku LineSeibu 10000 series EMU running on the Seibu Shinjuku Line in July 2...

 

 

List of acts of the Parliament of England from 1603

English, Scottish, Irish and Great Britain legislationActs of parliaments of states preceding the United Kingdom Of the Kingdom of EnglandRoyal statutes, etc. issued beforethe development of Parliament 1225–1267 1275–1307 1308–1325 Temp. incert. 1327–1411 1413–1460 1461 1463 1464 1467 1468 1472 1474 1477 1482 1483 1485–1503 1509–1535 1536 1539–1540 1541 1542 1543 1545 1546 1547 1548 1549      1551      1553 1554 1555 &...

コルク

この記事は検証可能な参考文献や出典が全く示されていないか、不十分です。出典を追加して記事の信頼性向上にご協力ください。（このテンプレートの使い方）出典検索?: コルク – ニュース · 書籍 · スカラー · CiNii · J-STAGE · NDL · dlib.jp · ジャパンサーチ · TWL（2017年4月） コルクを打ち抜いて作った瓶の栓 コルク（木栓、�...

 

 

Resi Pesendorfer

Artikel ini sebatang kara, artinya tidak ada artikel lain yang memiliki pranala balik ke halaman ini.Bantulah menambah pranala ke artikel ini dari artikel yang berhubungan atau coba peralatan pencari pranala.Tag ini diberikan pada Desember 2023. Resi PesendorferLahirTheresia Laimer(1902-06-21)21 Juni 1902Bad Ischl, Austria Hulu, Kekaisaran Austria-HungariaMeninggal31 Oktober 1989PekerjaanPekerja pertanianPelayanPembuat rumahPenyelenggara perlawananPartai politikKPÖSuami/istriFerdinand Pesend...

 

 

Richard Boyd Barrett

Irish politician (born 1967) Richard Boyd BarrettTDBoyd Barrett in 2016Teachta DálaIncumbentAssumed office February 2011ConstituencyDún Laoghaire Personal detailsBorn (1967-02-06) 6 February 1967 (age 57)Dublin, IrelandPolitical partyPeople Before Profit–SolidarityParents biological: Vincent Dowling Sinéad Cusack Relatives Sorcha Cusack (aunt) Niamh Cusack (aunt) Catherine Cusack (aunt) Pádraig Cusack (uncle) Cyril Cusack (grandfather) Maureen Cusack (grandmother) EducationSt M...

National symbols of Mexico

Overview of the national symbols of Mexico National flag The national symbols of Mexico are the flag, the most coat of arms and the anthem. The flag is a vertical tricolor of green, white, and red. The coat of arms features a golden eagle eating a snake on top of a cactus. National flag The revolutionary banner with the image of the Virgin of Guadalupe carried by Miguel Hidalgo and his insurgent army during the Mexican War of Independence Main article: Flag of Mexico The current national flag...

 

 

Abryna

Abryna Abryna grisescens Klasifikasi ilmiah Kerajaan: Animalia Filum: Arthropoda Kelas: Insecta Ordo: Coleoptera Famili: Cerambycidae Subfamili: Lamiinae Tribus: Pteropliini Genus: Abryna Abryna adalah genus kumbang tanduk panjang yang berasal dari famili Cerambycidae. Genus ini juga merupakan bagian dari ordo Coleoptera, kelas Insecta, filum Arthropoda, dan kingdom Animalia. Larva kumbang dalam genus ini biasanya mengebor ke dalam kayu dan dapat menyebabkan kerusakan pada batang kayu hidup ...

 

 

2014–15 UT Arlington Mavericks women's basketball team

Intercollegiate basketball season 2014–15 Texas–Arlington Mavericks women's basketballConferenceSun Belt ConferenceRecord17–13 (11–9 Sun Belt)Head coachKrista Gerlich (2nd season)Assistant coaches Kristin Cole Ashley Crawford Talby Justus Home arenaCollege Park CenterSeasons← 2013–142015–16 → 2014–15 Sun Belt Conference women's basketball standings vte Conf Overall Team W   L   PCT W   L   PCT Arkansas–Little Rock † 18 R...

Chloro(tetrahydrothiophene)gold(I)

Chloro(tetrahydrothiophene)­gold(I) Identifiers CAS Number 39929-21-0 3D model (JSmol) Interactive image ChemSpider 9956880 PubChem CID 11782199 InChI InChI=1S/C4H8S.Au.ClH/c1-2-4-5-3-1;;/h1-4H2;;1H/q;+1;/p-1Key: UCGCVRKULHHWGA-UHFFFAOYSA-M SMILES C1CCSC1.Cl[Au] Properties Chemical formula C4H8AuClS Molar mass 320.58 g·mol−1 Appearance White to off-white powder Structure Crystal structure orthorhombic Space group Pmc21, No. 26 Lattice constant a = 6.540(1) ...

 

 

巫

  「巫师」重定向至此。關於其他涵義，請見「巫师 (消歧義)」。   关于与「巫」標題相近或相同的条目页，請見「巫 (消歧義)」。中國民間信仰系列中国民间信仰 哲学 天-上帝 道 德 气 神 灵 顯靈 阴阳 五行 命運 緣分 报应 得道 理论 善書 中国神话 仙 真人 混沌 龙 和 凤凰 四象 中国神祇 中国开创传说 实践 敬香 敬祖 功德 求籤 擲筊 气功 方術 風水 術數 符�...

 

 

Coleville, California

Census-designated place in California, United StatesColeville, CaliforniaCensus-designated placeColevilleColevilleShow map of CaliforniaColevilleShow map of the United StatesCoordinates: 38°33′59″N 119°30′26″W / 38.56639°N 119.50722°W / 38.56639; -119.50722CountryUnited StatesStateCaliforniaCountyMonoArea[1] • Total19.27 sq mi (49.90 km2) • Land19.27 sq mi (49.90 km2) • Water0.00...

Black Magic (comics)

1950 American comic book series Not to be confused with the Masamune Shirow title of the same name published by Viz (Eclipse) in 1990. Black MagicBlack Magic #1 (October–November 1950)Art by Jack KirbyPublication informationPublisherPrize ComicsDC ComicsSchedulebimonthlyPublication dateOct./Nov. 1950-Nov./Dec. 1961 (Prize)Oct./Nov. 1973-Apr./May. 1975 (DC)No. of issues50 (Prize)9 (DC)Creative teamCreated byJoe SimonJack Kirby Black Magic was a horror anthology comic book series published by...

 

 

Salp

Salp Salpidae Rantai salp didekat permukaan Laut MerahTaksonomiSuperkerajaanHolozoaKerajaanAnimaliaFilumChordataKelasThaliaceaOrdoSalpidaFamiliSalpidae Lahille, 1888 Subfamili, tingkat, spesiesSee text Salp atau salpa (jamak: salpae[2]) adalah sejenis tunikata planktonik berbentuk tong yang masuk kedalam famili Salpidae. Mereka bergerak dengan cara mengkontraksikan tubuhnya. Gerakan tersebut memompa air kedalam tubuh mirip jeli-nya, dan menjadi contoh penggunaan propulsi jet di seluru...

 

 

Suku Mandailing

Artikel ini mengandung Surat Batak. Tanpa dukungan perenderan yang baik, Anda mungkin akan melihat tanda tanya, kotak, atau simbol lain. Batak Mandailing Halak Mandailing ᯄᯞᯄ᯦᯲ᯅᯖᯄᯱ᯲ᯔᯉ᯲ᯑᯤᯞᯪᯰ Abdul Haris Nasution Adnan Buyung Nasution Darmin Nasution Bobby Nasution Harun Nasution Willem Iskander Kaharuddin Nasution Muslimin Nasution Rusli Nasution Saud Usman Nasution Sholeh Mahmoed Nasution Adnan Lubis Ansyari Lubis Arkian Lubis Arsyad Thalib Lubis Basyrah L...

黄義助

黄 義助 2023年のファン・ウィジョ名前カタカナ ファン・ウィジョラテン文字 Hwang Uijoハングル 황의조基本情報国籍  大韓民国生年月日 (1992-08-28) 1992年8月28日（32歳）[1]出身地 京畿道城南市身長 184cm体重 73kg選手情報在籍チーム アランヤスポルポジション FW背番号 16利き足 右足 クラブ1年 クラブ 出場 (得点)2013-2017 城南FC 139 (35)2017-2019 ガンバ大阪 59 (23)2019-2022 ボ...

 

 

GJB4

GJB4 معرفات أسماء بديلة GJB4, CX30.3, EKV, gap junction protein beta 4, EKVP2 معرفات خارجية الوراثة المندلية البشرية عبر الإنترنت 605425 MGI: MGI:95722 HomoloGene: 7339 GeneCards: 127534 علم الوجود الجيني وظائف جزيئية • gap junction channel activity مكونات خلوية • كونيكسون• مكون تكاملي للغشاء• تقاطعات الفجوة بين الخلايا• غشاء خلوي�...