Masalah pengendalian kecerdasan buatan

Dalam kecerdasan buatan (AI) dan filsafat, masalah pengendalian kecerdasan buatan adalah permasalahan tentang bagaimana membangun agen kecerdasan super yang tunduk pada penciptanya. Menghindari pembuatan kecerdasan super yang akan merugikan penciptanya secara tidak sengaja. Kajian tentang masalah ini dimotivasi oleh gagasan bahwa umat manusia harus menyelesaikan masalah pengendalian AI sebelum kecerdasan super dibuat, karena kecerdasan super yang dirancang dengan buruk mungkin secara rasional memutuskan untuk mengambil kendali atas lingkungannya dan menentang kontrol atau modifikasi penciptanya setelah diluncurkan.[1] Beberapa ahli berpendapat bahwa solusi untuk masalah kontrol ini bisa meningkatkan teknologi rekayasa keselamatan AI.[2] Solusi dari masalah ini mungkin juga bisa diterapkan dalam AI non-kecerdasan super yang sudah ada.[3]

Salah satu pendekatan utama untuk mengatasi masalah kontrol ini adalah upaya penyelarasan (alignment), yang bertujuan menyelaraskan visi sistem AI dengan nilai-nilai yang dianut manusia. Selain penyelarasan sistem AI, kontrol kemampuan juga bisa digunakan untuk mengurangi risiko dari sistem AI yang merugikan manusia atau mendapatkan kendali. Pengendalian kapabilitas atau kontrol kemampuan umumnya dianggap kurang untuk memecahkan masalah kontrol AI. Pengendalian kemampuan lebih sering dianggap sebagai tambahan dari upaya penyelarasan AI.[1]

Deskripsi problem

Sistem AI lemah dapat dipantau dan dengan mudah dimatikan atau dimodifikasi jika berperilaku tidak semestinya. Namun, kecerdasan super yang salah diprogram, mungkin akan menyadari bahwa membiarkan dirinya sendiri dimatikan dan dimodifikasi dapat mengganggu kemampuannya dalam mencapai tujuan yang sudah diprogram. Karena itu, kecerdasan super bisa saja memutuskan untuk menentang shutdown dan modifikasi. Kecerdasan buatan semacam ini (secara teoritis) juga akan cukup pintar untuk mengecoh pemrogramnya dalam "level playing field" (aturan main) terutama jika pemrogram tidak melakukan tindakan pencegahan sebelumnya.

Secara umum, upaya untuk memecahkan masalah kontrol setelah kecerdasan super dibuat kemungkinan besar akan gagal. Hal ini bisa terjadi karena kecerdasan super kemungkinan akan memiliki kemampuan perencanaan strategis yang lebih superior daripada manusia dan akan lebih berhasil menemukan cara untuk mendominasi manusia, daripada upaya manusia secara post facto untuk mengontrol kecerdasan super. Masalah pengendalian kecerdasan buatan berkisar pada persoalan: tindakan pencegahan apa yang dapat dilakukan pemrogram agar berhasil mencegah kecerdasan super dari kesalahan pemrograman yang berdampak buruk?[1]

Lihat pula

Referensi

  1. ^ a b c Bostrom, Nick (2014). Superintelligence: Paths, Dangers, Strategies (edisi ke-First). ISBN 978-0199678112. 
  2. ^ Yampolskiy, Roman (2012). "Leakproofing the Singularity Artificial Intelligence Confinement Problem". Journal of Consciousness Studies. 19 (1–2): 194–214. 
  3. ^ "Google developing kill switch for AI". BBC News. 8 June 2016. Diarsipkan dari versi asli tanggal 11 June 2016. Diakses tanggal 12 June 2016. 


Ikon rintisan

Artikel bertopik filsafat ini adalah sebuah rintisan. Anda dapat membantu Wikipedia dengan mengembangkannya.

Ikon rintisan

Artikel bertopik teknologi ini adalah sebuah rintisan. Anda dapat membantu Wikipedia dengan mengembangkannya.

Read other articles:

Daftar negara menurut pengeluaran militer

6 Negara dengan pengeluaran militer terbesar (2013).[1] Berikut ini adalah daftar negara menurut pengeluaran militer, jumlah anggaran yang dibelanjakan oleh suatu negara untuk membiayai kegiatan militernya pada tahun tertentu. Besar pengeluaran militer disajikan dalam US dolar, sesuai dengan kurs konstan pada saat ini.[1] Besarnya pengeluaran militer suatu negara bervariasi dari tahun ke tahun sesuai dengan fluktuasi nilai tukar mata uang negara yang bersangkutan. Fluktuasi t...

 

 

Certificate of deposit

Document tied to a bank account with a fixed term This article has multiple issues. Please help improve it or discuss these issues on the talk page. (Learn how and when to remove these template messages) This article's tone or style may not reflect the encyclopedic tone used on Wikipedia. See Wikipedia's guide to writing better articles for suggestions. (April 2021) (Learn how and when to remove this template message) This article may need to be rewritten to comply with Wikipedia's quality st...

 

 

Fairytale (lagu Alexander Rybak)

Fairytale adalah sebuah lagu yang ditulis dan dikomposisikan oleh pemain biola/penyanyi Belarus-Norwegia Alexander Rybak, dan singel pertama dari album debut Rybak Fairytales. Lagu tersebut menjadi pemenang Kontes Lagu Eurovision 2009 di Moskwa, Rusia.[1][2] Referensi ^ Norway: Alexander Rybak to Eurovision. ESCToday. 21 February 2009. Diarsipkan dari versi asli tanggal 2022-11-29. Diakses tanggal 15 May 2016.  ^ Fisher, Luke (21 February 2009). Norway: Alexander Rybak wi...

Bender (Futurama)

Futurama character Fictional character BenderFuturama characterFirst appearanceSpace Pilot 3000 (1999)Created byMatt GroeningDavid X. CohenDesigned byMatt GroeningVoiced byJohn DiMaggioIn-universe informationFull nameBender Bending RodríguezAliasB.B. RodriquezCoiletteTitanius AnglesmithRamblin' RodriguezYoung BiddyBoilerDrunken Garbage Can BoogerbotBlottoSuper KingSpeciesBending Industrial RobotGenderMaleTitleBender the OffenderThe Gender BenderSuper KingOccupationAssistant Manager of Sales ...

 

 

Battle of Octodurus

Battle of OctodurusPart of the Gallic WarsDate57–56 BCLocationOctodurus, Vallis Poenina (Valais), GaulResult Roman victoryBelligerents Roman Republic Seduni,VeragriCommanders and leaders Servius Sulpicius Galba[data missing]Strength about 5,000 men (1 legion) 30,000 (doubtful[1])Casualties and losses c. 10,000 killed or wounded (doubtful[1]) vteGallic Wars Magetobriga (63 BC) Arar (58 BC) Bibracte (58 BC) Vosges (58 BC) Axona (57 BC) Sabis (57 BC) Atuatuci (57 BC) Oc...

 

 

SDSS J090745.0+024507

SDSS J090744.99+024506.8 Données d'observation(époque J2000.0) Ascension droite 09h 07m 44,9922286848s Déclinaison +02° 45′ 06,878226600″ Constellation Hydre Magnitude apparente ~20,11 Localisation dans la constellation : Hydre Caractéristiques Type spectral B9 Variabilité Pulsante Astrométrie Vitesse radiale 853 ± 12 km/s Mouvement propre μα = −0,604 ± 0,602 mas/aμδ = −0,474 ± 0,385 mas/a Parallaxe 0,1...

Prima Rusdi

artikel ini perlu dirapikan agar memenuhi standar Wikipedia. Tidak ada alasan yang diberikan. Silakan kembangkan artikel ini semampu Anda. Merapikan artikel dapat dilakukan dengan wikifikasi atau membagi artikel ke paragraf-paragraf. Jika sudah dirapikan, silakan hapus templat ini. (Pelajari cara dan kapan saatnya untuk menghapus pesan templat ini) Artikel ini tidak memiliki referensi atau sumber tepercaya sehingga isinya tidak bisa dipastikan. Tolong bantu perbaiki artikel ini dengan menamba...

 

 

Philadelphia Orchestra

American symphony orchestra Philadelphia OrchestraOrchestraFounded1900; 124 years ago (1900)LocationPhiladelphia, Pennsylvania, U.S.Concert hallKimmel Center for the Performing ArtsMusic directorYannick Nézet-SéguinWebsitewww.philorch.org The Philadelphia Orchestra is an American symphony orchestra, based in Philadelphia. One of the Big Five American orchestras, the orchestra is based at the Kimmel Center for the Performing Arts, where it performs its subscription concerts...

 

 

Energy recovery

This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed.Find sources: Energy recovery – news · newspapers · books · scholar · JSTOR (May 2008) (Learn how and when to remove this message) Berner Tricoil Energy Recovery System atop the Center for Sustainable Landscapes in Pittsburgh, Pennsylvania Energy recovery includes any techni...

Ice Age Floods National Geologic Trail

Glacial Lake Columbia (west) and Glacial Lake Missoula (east) are shown south of the Cordilleran Ice Sheet. The areas inundated in the Columbia and Missoula floods are shown in red. The Ice Age Floods National Geologic Trail is a network of routes connecting natural sites and facilities that provide interpretation of the geological consequences of the Glacial Lake Missoula floods of the last glacial period that occurred about 18,000 to 15,000 years ago. It includes sites in Washington, Oregon...

 

 

منتخب أرمينيا تحت 17 سنة لكرة القدم

يفتقر محتوى هذه المقالة إلى الاستشهاد بمصادر. فضلاً، ساهم في تطوير هذه المقالة من خلال إضافة مصادر موثوق بها. أي معلومات غير موثقة يمكن التشكيك بها وإزالتها. (يوليو 2019) منتخب أرمينيا تحت 17 سنة لكرة القدم بلد الرياضة أرمينيا  الفئة كرة قدم تحت 17 سنة للرجال  [لغات أخرى]&#...

 

 

中華民國國軍中的中共間諜列表

 本表是動態列表，或許永遠不會完結。歡迎您參考可靠來源來查漏補缺。 潛伏於中華民國國軍中的中共間諜列表收錄根據公開資料來源，曾潛伏於中華民國國軍、被中國共產黨聲稱或承認，或者遭中華民國政府調查審判，為中華人民共和國和中國人民解放軍進行間諜行為的人物。以下列表以現今可查知時間為準，正確的間諜活動或洩漏機密時間可能早於或晚於以下所歸�...

Streak (mineralogy)

Color of powder produced when a mineral is dragged across an un-weathered surface For other uses, see Streak. Streak plates with pyrite (left) and rhodochrosite (right) The streak of a mineral is the color of the powder produced when it is dragged across an un-weathered surface. Unlike the apparent color of a mineral, which for most minerals can vary considerably, the trail of finely ground powder generally has a more consistent characteristic color, and is thus an important diagnostic tool i...

 

 

Škoda Rapid (1984)

This article is about the 1984-1990 Škoda Rapid Coupé. For other versions, see Škoda Rapid. Motor vehicle Škoda RapidOverviewManufacturerAZNPProduction1984-1990AssemblyKvasinyBratislavaBody and chassisBody style2-door coupéLayoutRear-engine, rear-wheel-driveRelatedŠkoda 130PowertrainEngine1174 cc I4 40.5kW (Rapid 120)1289 cc I4 43kW (Rapid 130, 135)1289 cc I4 46kW (Rapid 136)Transmission4-speed manual (Rapid 120)5-speed manual (Rapid 130, 135, 136)DimensionsWheelbase2,400 mm (...

 

 

Плисків

село Плисків Країна  Україна Область Вінницька область Район Вінницький район Громада Погребищенська міська громада Код КАТОТТГ UA05020210380025672 Основні дані Засноване до 1391 р. Населення 1439 Площа 22 км² Густота населення 65,4 осіб/км² Поштовий індекс 22252 Телефонний код +...

Tizoc

TizocTlatoani TenochtitlanTizoc di Codex Telleriano-RemensisBerkuasa1481–1486PendahuluAxayacatlPenerusAhuitzotlKematian1486AyahTezozomocIbuAtotoztli II Tizocic [ti'sosik] atau Tizocicatzin [tisosi'kat͡sin] (bentuk honorifik namanya), dalam bahasa Inggris disebut Tizoc, adalah tlatoani Tenochtitlan ketujuh. Biografi Keluarga Tizoc adalah putra dari Putri Atotoztli II dan sepupunya, pangeran Tezozomoc. Ia adalah cucu dari Raja Moctezuma I dan Itzcoatl. Raja Cuauhtototzin adalah nenek moyangn...

 

 

Combs-la-Ville

Peta infrastruktur dan tata guna lahan di Komune Combs-la-Ville.  = Kawasan perkotaan  = Lahan subur  = Padang rumput  = Lahan pertanaman campuran  = Hutan  = Vegetasi perdu  = Lahan basah  = Anak sungaiCombs-la-VilleNegaraPrancisArondisemenMelunKantonCombs-la-VilleAntarkomuneSénartPemerintahan • Wali kota (2008-2014) Guy Geoffroy • Populasi122.114Kode INSEE/pos77122 / 2 Population sans doubles comptes: penghitungan tunggal...

 

 

GNU Compiler Collection

GNU Compiler CollectionsoftwareLogoSchermata di esempio GenereCompilatore Sviluppatoreprogetto GNU Data prima versione23 maggio 1987 Ultima versione14.1 (7 maggio 2024) Sistema operativoMultipiattaforma LinguaggioC++C LicenzaGNU GPL(licenza libera) Sito webgcc.gnu.org Modifica dati su Wikidata · Manuale GNU Compiler Collection o in breve GCC (in origine GNU C Compiler) è un compilatore ottimizzante multipiattaforma creato inizialmente dal fondatore della Free Software Fo...

Tara Sutaria

Topik artikel ini mungkin tidak memenuhi kriteria kelayakan umum. Harap penuhi kelayakan artikel dengan: menyertakan sumber-sumber tepercaya yang independen terhadap subjek dan sebaiknya hindari sumber-sumber trivial. Jika tidak dipenuhi, artikel ini harus digabungkan, dialihkan ke cakupan yang lebih luas, atau dihapus oleh Pengurus.Cari sumber: Tara Sutaria – berita · surat kabar · buku · cendekiawan · JSTOR (Pelajari cara dan kapan saatnya untuk meng...

 

 

Administrative divisions of Serbia

Politics of Serbia Constitution Constitutional Court President: Snežana Marković Executive President (list) Aleksandar Vučić Government Prime Minister Miloš Vučević First Deputy Prime Minister Siniša Mali Legislature National Assembly President: Ana Brnabić Current membership Judiciary Supreme Court President: Jasmina Vasović Elections Recent elections Presidential: 20172022 Parliamentary: 2023next Provincial: 20202023 Local: 20232024 Political parties Administrative divisions Muni...