Mengapa kecerdasan buatan tidak menyelesaikan semua masalah. Mengapa AI yang menghukum penjahat berbahaya? (2 foto). Menantang birokrasi data

Semua orang telah menonton film Terminator, di mana superkomputer Skynet memperoleh kebebasan memilih dan memutuskan untuk menghancurkan umat manusia. Elon Musk dan Stephen Hawking mengharapkan hal serupa dari pengembangan AI. Mari kita cari tahu apakah ketakutan mereka benar.

Apa yang terjadi kecerdasan buatan? Mengapa penting untuk memahami apa itu? Mengapa semua orang membicarakan dia hari ini?

Jika Anda membaca pers, Anda mungkin tahu bahwa asisten virtual Amazon dan Google menggunakan teknologi ini, dan mesin akan segera mengambil semua pekerjaan dari manusia (sebenarnya, bukan fakta). Namun pada saat yang sama, kecil kemungkinan Anda memahami dengan jelas apa itu kecerdasan buatan, dan apakah robot benar-benar akan memperbudak kita semua. Artikel ini akan membantu Anda memahami semua masalah.

Apa itu kecerdasan buatan

Kecerdasan buatan (AI) adalah program komputer, yang memiliki mekanisme pembelajaran bawaan. Setelah memperoleh pengetahuan baru, dia kemudian menggunakannya untuk membuat keputusan dalam situasi baru, seperti yang dilakukan manusia. Peneliti yang membuat program semacam itu mencoba membuat kode tersebut membaca gambar, teks, video atau suara, dan mempelajari sesuatu dari informasi tersebut. Jika hal ini terjadi, pengetahuan yang diperoleh dapat digunakan dalam situasi lain. Jika suatu algoritma telah belajar mengenali wajah seseorang, nantinya dapat dikenali di foto Facebook. Ketika diterapkan pada AI modern, pembelajaran sering disebut sebagai “pelatihan”.

Sejak lahir, manusia sudah mampu mengoperasikan ide-ide yang kompleks: jika kita melihat sebuah apel, maka nantinya kita akan dapat mengenali sesuatu yang sama sekali berbeda, tidak seperti yang pertama. Mesin bersifat sangat literal—komputer tidak memiliki konsep “kesamaan”—dan tujuan pengembangan kecerdasan buatan justru membuat mesin menjadi tidak terlalu literal. Sebuah mesin dapat dengan mudah menemukan duplikat foto sebuah apel atau menemukan dua kalimat identik dalam teks, tetapi untuk bekerja dengan gambar visual sebuah apel, untuk mengenali gambar apel yang sama dari sudut yang berbeda atau dengan cahaya yang berbeda, Anda perlu AI. Ini merupakan generalisasi atau pembentukan ide berdasarkan kesamaan data, dan memungkinkan Anda melihat kesamaan, termasuk antara hal-hal yang belum pernah ditemui AI sebelumnya.

Alex Rudnitsky, profesor ilmu komputer di Universitas Carnegie Mellon, mengatakan, “Tujuannya adalah untuk mengubah perilaku manusia yang kompleks ke dalam bentuk yang dapat diproses secara komputasi. Dan hal ini, pada gilirannya, memungkinkan kami menciptakan sistem yang dapat melakukan tindakan kompleks yang berguna bagi manusia.”

Sejauh mana kemajuan AI?

Peneliti AI masih mengerjakan hal-hal mendasar. Bagaimana cara mengajari komputer mengenali apa yang dilihatnya dalam gambar atau video? Ketika hal ini tercapai, Anda perlu beralih dari pengenalan ke pemahaman. Akan sangat menyenangkan tidak hanya untuk mengetahui bahwa ada sebuah apel di dalam gambar, tetapi juga untuk memahami bahwa apel tersebut dapat dimakan, bahwa apel tersebut ada hubungannya dengan jeruk dan pir, bahwa orang memakan apel dan menggunakannya untuk membuat pai apel. Senang juga mengetahui tentang Michurin, apel yang meremajakan dan sejenisnya. Selain itu, ada masalah dalam memahami bahasa, karena banyak kata memiliki banyak arti, hanya dapat dibedakan berdasarkan konteksnya, dan kita semua mengekspresikan diri secara berbeda. Bagaimana komputer dapat menangkap fenomena yang berubah-ubah dan selalu berubah ini?

Kecepatan kemajuan AI sangat bervariasi di berbagai bidang. Misalnya, visi komputer, yaitu kemampuan mengenali gambar, kini berkembang sangat cepat, sementara pemahaman bahasa alami jauh lebih buruk. Di area ini, mereka mengembangkan apa yang disebut “kecerdasan sempit” - AI tersebut efektif saat bekerja dengan gambar, suara, atau teks, tetapi tidak dapat melihat banyak sinyal heterogen sekaligus (pada saat yang sama, kita mengamati manusia “ kecerdasan umum"). Banyak peneliti berharap bahwa kemajuan di bidang tertentu akan membantu kita memahaminya prinsip-prinsip umum pembelajaran mesin, yang masih memungkinkan terciptanya AI universal.

Mengapa AI sangat penting

Setelah AI belajar mengenali apel dalam gambar atau mengenali ucapan pada rekaman audio, AI sudah dapat digunakan dalam program lain untuk mengambil keputusan, yang mana jika tidak seseorang akan dibutuhkan. Misalnya, Anda dapat secara otomatis menandai teman di foto Facebook - jika tidak, Anda harus melakukannya secara manual. Jika yang sedang kita bicarakan tentang mobil self-driving atau sistem bantuan pengemudi, mobil lain dapat dikenali dan tanda-tanda jalan, dan masuk pertanian- membongkar hasil panen, membuang buah busuk.

Tugas-tugas ini, yang hanya didasarkan pada pengenalan gambar, secara tradisional dilakukan oleh pengguna atau seseorang dari perusahaan yang menyediakan perangkat lunak. Jika suatu tugas menghemat waktu pengguna, ini merupakan keunggulan kompetitif, dan jika tugas tersebut membebaskan waktu karyawan atau membuat pekerjaan mereka sama sekali tidak diperlukan, hal ini mengurangi biaya bisnis.

Selain itu, ada tugas yang tidak dapat dilakukan tanpa mesin: misalnya, memproses analisis penjualan jutaan catatan dalam hitungan menit. Sekarang tugas-tugas tersebut dilakukan dengan cepat dan murah. Di sini kami mengajarkan mesin untuk melakukan apa yang biasa dilakukan manusia, dan tentu saja, manfaat ekonomi dari inovasi tersebut sangat besar.

Jason Hong, seorang profesor di Laboratorium Interaksi Komputer Universitas Carnegie Mellon, berpendapat bahwa meskipun AI dapat melakukan tugas untuk manusia, AI juga dapat menciptakan jenis pekerjaan baru.

“Mobil telah sepenuhnya menggantikan kuda, tetapi dalam jangka menengah dan panjang kemunculannya menyebabkan beragam tugas dan produksi - gerobak, truk kecil, minivan, mobil convertible, dan sebagainya muncul. Demikian pula, dalam jangka pendek, sistem AI akan menggantikan manusia dalam melakukan tugas-tugas rutin, namun dalam jangka menengah dan panjang kita akan melihat hal ini menciptakan keragaman baru,” katanya.

Gottlieb Daimler dan Karl Benz tidak memikirkan bagaimana mobil akan mengubah wajah kota, tidak memikirkan polusi lingkungan atau tentang epidemi obesitas di negara maju. Masih sulit bagi kami untuk menilai dampak jangka panjang dari faktor ini.

Mengapa AI mulai berkembang sekarang, bukan 30 atau 60 tahun yang lalu

Faktanya, banyak gagasan tentang bagaimana pelatihan AI harus disusun sudah berusia lebih dari 60 tahun. Pada tahun 1950-an, ilmuwan Frank Rosenblatt, Bernard Widrow, dan Marcian Hoff pertama kali mulai mengekspresikan struktur neuron secara matematis sesuai dengan gagasan biologi pada saat itu. Ya, Anda tidak bisa menyelesaikan setiap masalah hanya dengan satu persamaan, tapi bagaimana jika, seperti otak, Anda menggunakan banyak persamaan yang terkait? Contoh aslinya sederhana: menganalisis pola satu dan nol yang muncul melalui saluran telepon digital dan memprediksi apa yang akan terjadi selanjutnya.

Selama beberapa dekade, ilmu komputer memiliki pandangan umum bahwa tidak ada masalah rumit yang dapat diselesaikan dengan cara ini. Namun demikian, saat ini konsep ini mendasari sebagian besar sistem perusahaan besar yang beroperasi di bidang ini: Google, Amazon, Facebook, Microsoft. Sekarang, jika dipikir-pikir lagi, para ilmuwan menyadari bahwa komputer tidak cukup canggih untuk mensimulasikan miliaran neuron di otak kita, dan bahwa melatih jaringan saraf memerlukan data dalam jumlah besar.

Dan kedua faktor ini, daya komputasi dan data yang memadai, baru muncul dalam 10 tahun terakhir.

Pada pertengahan tahun 1990-an, Nvidia, produsen kartu grafis terkenal, menemukan bahwa GPU-nya sangat cocok untuk menjalankan jaringan saraf dan mulai merilis kartu yang dirancang khusus untuk AI. Ditemukan bahwa bekerja dengan jaringan saraf yang lebih cepat dan kompleks menghasilkan peningkatan signifikan dalam akurasi respons.

Kemudian pada tahun 2009, peneliti AI Fei-Fei Li menerbitkan database bernama ImageNet, yang berisi lebih dari 3 juta gambar terorganisir dengan teks. Dia percaya bahwa memberikan lebih banyak contoh pada algoritma akan membantu mereka menguasai ide-ide yang lebih kompleks. Pada tahun 2010, Lee meluncurkan kompetisi ImageNet, dan pada tahun 2012, peneliti lain, Geoff Hinton, menggunakan database gambar untuk melatih jaringan saraf - dan mengungguli semua aplikasi lain dengan margin akurasi yang sangat besar, lebih dari 10%.

Sesuai prediksi Li, jumlah data ternyata menjadi parameter kunci. Hinton juga membangun jaringan jaringan saraf - yang satu menemukan bentuk dalam gambar, yang lain menemukan tekstur, dll. Saat ini, hal ini disebut jaringan saraf dalam atau pembelajaran mendalam, dan ketika Anda membaca berita tentang kesuksesan AI berikutnya, yang kita bicarakan adalah sistem serupa.

Segera setelah industri teknologi melihat hasil para ilmuwan, ledakan pun dimulai. Para peneliti yang telah mengerjakan pembelajaran mendalam selama beberapa dekade dalam keadaan yang relatif tidak dikenal menjadi bintang rock baru, dan pada tahun 2015 Google memiliki lebih dari seribu proyek yang menggunakan pembelajaran mesin.

Haruskah Anda takut dengan AI?

Semua orang telah menonton "The Terminator" dan siap untuk takut pada Skynet yang maha kuasa. Di kalangan ilmuwan, potensi Skynet disebut superintelligence atau kecerdasan umum buatan, artinya program yang lebih unggul dari otak manusia dalam banyak hal. Karena sistem komputer dapat diperluas—yaitu, banyak komputer sederhana dan cepat yang dapat dibuat dan dihubungkan bersama—ada kekhawatiran bahwa kecerdasan super semacam itu akan berkembang tanpa batas waktu dan meninggalkan manusia jauh di belakang. Dan karena sangat pintar, dia akan lepas kendali dan mengabaikan segala upaya orang untuk mendapatkan kembali kendali tersebut. Ini adalah skenario apokaliptik yang dialami sebagian orang pikiran terbaik modernitas, misalnya Elon Musk dan Stephen Hawking. Musk, khususnya, mengatakan bahwa “sebagian besar peneliti AI terkemuka meremehkan masalah jin di dalam botol, meskipun kecerdasan mereka tidak diragukan lagi di beberapa bidang.”

Ada sudut pandang lain. Yann LeCun, kepala laboratorium penelitian kecerdasan buatan Facebook, mengatakan bahwa meskipun para ilmuwan berhasil membuat mesin yang dapat belajar paling banyak, hal yang berbeda dan mengatur pemahaman ini ke dalam gambaran dunia, komputer seperti itu sama sekali bukan fakta keinginan sendiri, kemauan atau naluri mempertahankan diri.

“Perilaku manusia - kekerasan sebagai respons terhadap ancaman, kecemburuan, keinginan untuk mendapatkan akses tunggal terhadap sumber daya, simpati terhadap kerabat dan antipati terhadap orang asing, dll. - terbentuk pada nenek moyang kita selama evolusi. Mesin cerdas tidak akan memiliki prasyarat untuk itu perilaku serupa, kecuali kami sendiri yang membuatnya secara eksplisit,” tulisnya di situs Quora.

Tidak ada alasan untuk berpikir bahwa komputer akan menganggap umat manusia sebagai ancaman, karena konsep ancaman tidak ada untuk komputer. Ya, Anda dapat mengatur parameter yang akan membuat komputer berperilaku seolah-olah memiliki naluri mempertahankan diri, namun kenyataannya tidak.

Andrew Ng, salah satu pendiri Google Brain dan mantan kepala Pengarah AI di Baidu sering berkata: “Saya tidak mengkhawatirkan AI yang jahat, sama seperti saya tidak mengkhawatirkan kelebihan populasi di Mars.”

Namun, ada alasan untuk khawatir - dan ini adalah faktor manusia. AI telah terbukti menangkap bias manusia dalam perkiraan dengan sangat mudah berdasarkan data yang dipelajarinya. Ini mungkin merupakan kecenderungan yang tidak berbahaya - misalnya, dia mungkin lebih sering mengenali kucing dalam gambar daripada anjing, karena dia telah diajari seperti itu. Tapi mari kita bayangkan AI mengambil alih stereotip masyarakat, dan, misalnya, lebih mengasosiasikan konsep "dokter" dengan laki-laki kulit putih dibandingkan dengan orang dari jenis kelamin atau ras lain. Jika Anda membayangkan bahwa AI semacam itu bertanggung jawab untuk merekrut dokter, maka AI tersebut akan memberikan preferensi yang tidak adil kepada beberapa kandidat.

Dan ini adalah kenyataan. Sebuah studi ProPublica menemukan bahwa algoritme yang digunakan untuk menentukan hukuman pidana mencerminkan bias rasial dan lebih memilih hukuman yang lebih berat bagi terdakwa non-kulit putih. Faktanya, ketika mengumpulkan informasi kesehatan, perempuan, terutama ibu hamil, seringkali dikucilkan, dan akibatnya rekomendasi medis Pedoman yang dikembangkan berdasarkan data yang tidak lengkap tidak dapat diterapkan dengan baik pada sejumlah besar pasien. Oleh karena itu, untuk memercayai mesin dalam mengambil keputusan yang sebelumnya memerlukan kehadiran manusia, kita harus memastikan bahwa hal ini terjadi sesuai dengan etika dan gagasan keadilan.

Masalahnya adalah meskipun Anda memahami bahwa algoritme tersebut bias, untuk memperbaikinya, Anda perlu menemukan alasannya. Namun karena pembelajaran mendalam memerlukan jutaan kalkulasi terkait, mengarungi kekusutan dan mencari tahu seberapa besar kontribusi suatu keputusan terhadap hasil keseluruhan sangatlah sulit. Masalah ini sangat akut terutama di bidang-bidang seperti pemrograman mobil tanpa pengemudi, karena setiap keputusan di jalan adalah masalah hidup dan mati. Penelitian pertama di bidang ini memberikan harapan bahwa kita akan dapat memahami mekanisme pengoperasian mesin yang kita buat. Namun saat ini, mustahil untuk memahami mengapa AI yang dikembangkan oleh Facebook, Google atau Microsoft membuat keputusan ini atau itu.

Disiapkan oleh Evgenia Sidorova

Salah satu topik favorit saya dan siswa saya yang paling ingin tahu adalah perbedaan semantik antara kata-kata dan ungkapan yang sekilas mirip, atau bahkan identik.

Seringkali, orang asing, yang sudah menguasai bahasa Rusia dengan cukup baik, “membuat kesalahan” dengan menggunakan kata-kata yang tampaknya merupakan sinonim yang khas, namun sebenarnya memiliki arti yang sama. arti yang berbeda, terutama dalam konteksnya. Salah satu kasus yang paling umum adalah penggunaan kata “mengapa” dan bukan “mengapa”. Jika Anda melakukan kesalahan seperti itu, jangan khawatir, itu lebih dari wajar, karena di luar konteks, arti kata-kata ini kurang lebih sama dan membawa muatan semantik yang sama dengan kata Bahasa Inggris"mengapa", yang digunakan baik dalam arti "mengapa" dan dalam arti "mengapa", dan bahkan dalam arti "apa".

Mengapa kamu begitu sedih hari ini? - Kenapa kamu begitu sedih hari ini?
Mengapa kami datang ke tempat mengerikan ini? - Kenapa kita harus datang ke tempat mengerikan ini?

Apakah kamu sudah menikah? - Apakah kamu sudah menikah?
TIDAK. Dan apa? - TIDAK. Mengapa?

Karena siswa yang baru mulai mengenal bahasa Rusia sering kali menerjemahkan sebuah kata ke dalam konteks secara acak dari salah satu makna kamusnya, maka timbul kebingungan semantik. Bayangkan situasinya. Saya ingin mengirimi Anda video tutorial, tetapi saya tidak tahu apakah Anda dapat menontonnya atau apakah Anda memiliki kemampuan teknis untuk melakukannya. Kemudian saya memutuskan untuk mengajukan pertanyaan, dan dialog berikut terjadi:

- Ya. Mengapa?

- Apakah Anda memiliki pemutar video di komputer Anda?
- Ya. Dan mengapa?

Dalam kasus pertama, Anda jelas ingin mengatakan “Ya. Lalu kenapa?”, dan dalam kasus kedua, “Ya Mengapa?”

Saya bertanya apakah Anda mempunyai pemutar video yang terpasang di komputer Anda, dan Anda bertanya-tanya mengapa Anda memerlukannya, namun karena penggunaan kata “mengapa”, arti dari pertanyaan balasannya terdistorsi. Lebih tepatnya, pertanyaan itu terdengar sangat tidak wajar. Kata "mengapa" di pada kasus ini digunakan sebagai pengganti kata “mengapa”, tetapi maknanya tidak menggantikannya.

Bagaimana kita dapat memahami kapan kita menggunakan kata “mengapa” dan kapan “mengapa”? Mari kita cari tahu.

Sebelum mengajukan pertanyaan, perlu dipahami apa yang kami maksud: tujuan atau alasan tindakan tersebut.

Pertanyaan “mengapa” dapat diganti dengan pertanyaan berikut: “untuk tujuan apa?”, “untuk tujuan apa?”, “untuk apa?”

Pertanyaan “mengapa” dapat diganti dengan pertanyaan berikut: “apa yang menyebabkan hal ini?”, “apa yang mendorong Anda melakukan/berpikir demikian?”

Oleh karena itu, ketika dalam dialog singkat kami Anda ingin mengetahui mengapa Anda membutuhkan pemutar video, jelas bahwa Anda pada dasarnya bertanya: “untuk tujuan apa saya membutuhkannya?”, “untuk apa saya membutuhkannya?”

Mari kita coba menggunakan pertanyaan-pertanyaan ini. Dialognya bisa saja seperti ini:

- Apakah komputer Anda memiliki pemutar video?
- Ya. Kenapa kamu bertanya?

Dalam hal ini, pertanyaan “mengapa” digunakan dengan tepat, karena pertanyaan “mengapa Anda bertanya?” artinya sama dengan pertanyaan “apa yang membuat Anda menanyakan pertanyaan ini?” (ungkapan terakhir terdengar terlalu resmi dan ketat, tapi sekarang tidak masalah, tugas kita sekarang adalah merasakan perbedaannya)

Bahasa Rusia tidak mungkin tanpa pengecualian, jadi ada juga kasus ketika kata “mengapa” digunakan untuk mengartikan “mengapa”. Ini jarang terjadi dan formulir ini dianggap ketinggalan jaman, namun dapat ditemukan, misalnya dalam teks sastra dan puisi. Ungkapan seperti itu terdengar lebih luhur daripada ucapan sehari-hari, lebih emosional. Misalnya: “Mengapa saya bukan burung?..”

Pembicara tidak menanyakan tujuan ia dilahirkan sebagai laki-laki, namun dengan nada penyesalan tertentu menanyakan alasannya, untuk alasan apa ia tidak mampu melayang di udara dan merasa lebih bebas.

Jadi, mari kita rangkum apa yang telah dikatakan dengan rumusan singkat.

Mengapa = Tujuan
Mengapa = Alasan

Selama beberapa dekade, para ilmuwan telah mencoba memaksa mesin untuk tidak hanya melaksanakan perintah yang diterima, namun juga berpikir sendiri. Memori komputer modern sebanding dengan manusia, kecepatan melakukan operasi logis jauh lebih tinggi, namun para peneliti belum berhasil mensimulasikan pikiran. Igor Bessmertny, profesor di Departemen Ilmu Komputer di Universitas ITMO, berbicara tentang tantangan modern di bidang kecerdasan buatan (AI).

Dalam pemahaman umum, kecerdasan buatan adalah komputer yang memiliki emosi dan kesadaran. Apa yang dimaksud peneliti modern dengan konsep ini?

Penulis istilah tersebut, John McCarthy, mendefinisikan kecerdasan sebagai kemampuan subjek untuk menetapkan tujuan dan mencapainya. Jika kita mencoba memberikan perangkat teknis tertentu dengan kecerdasan, itu berarti kita ingin perangkat tersebut menyelesaikan masalah yang muncul secara mandiri. Komputer dapat memberikan alasan lebih banyak lebih cepat dari manusia, tetapi mencari solusi dengan kekerasan membutuhkan jumlah besar sumber daya. Pada awal permainan catur, pemain Putih mempunyai dua pilihan untuk masing-masing pion dan ksatria. Lawan, sebagai tanggapan, juga memilih dari dua puluh opsi, dan ternyata pada langkah pertama kita memiliki 400 kemungkinan kombinasi, pada langkah kedua – 160.000, dan seterusnya. Ini disebut ledakan kombinatorial, dan upaya untuk menyelesaikan masalah secara langsung tidak membuahkan hasil.

Saya sedang mengembangkan pendekatan antropomorfik dan percaya bahwa kita harus mencoba mereproduksi otak manusia pada tingkat perilaku. Sepanjang hidup, seseorang terus-menerus beralih ke keterampilan intelektual yang diperoleh. Kami tidak berpikir dua kali untuk mengikat tali sepatu atau menggunakan tabel perkalian. Ada keterampilan tingkat yang lebih tinggi: pemain catur profesional dapat “secara otomatis” mengalahkan pemain yang tidak siap. Jumlah keterampilan ditentukan oleh jumlah memori manusia, dan mesin sekarang memilikinya lebih dari cukup. Kita memerlukan struktur data di mana mesin akan mencatat keterampilan intelektual dan logika keluarannya, bagaimana setiap fakta dan keterampilan diperoleh. Dalam hal ini, kami akan memberikan keluaran data yang cepat dan akan mampu menciptakan sistem cerdas yang akan menjawab pertanyaan kompleks.

Misalnya, jika kita mencari titik didih air di Internet, kita akan segera mendapatkan jawabannya, tetapi portal pencarian tidak memiliki jawaban siap pakai untuk pertanyaan spesifik. Untuk mengetahui titik didih air di Tibet, kita harus menghubungkan aturan-aturannya, memperhitungkan ketergantungan titik didih pada tekanan atmosfer, ketergantungan tekanan pada ketinggian di atas permukaan laut, dan ketinggian Tibet. Hanya setelah tindakan logis tertentu kita akan menemukan solusinya, dan jika kita menambahkannya ke basis pengetahuan, maka lain kali faktanya akan diketahui dengan cepat. Penting juga untuk memeriksa relevansi data pada setiap panggilan telepon - sekarang kami tidak berpikir bahwa Presiden AS adalah Barack Obama, tetapi di masa depan data ini akan ketinggalan zaman.

- Apakah secara teknis mungkin?

Prinsip-prinsip belajar mandiri diimplementasikan dengan menggunakan jaringan saraf. Sekarang mereka digunakan untuk peramalan, perdagangan di bursa saham, dan sistem pengenalan pejalan kaki dibangun di beberapa mobil. Terkadang perilaku cerdas suatu perangkat diperlukan - di tempat yang tidak memungkinkan bagi operator manusia untuk hadir, atau di tempat yang menyederhanakan kehidupan. Namun masing-masing perangkat tersebut melakukan serangkaian tugas yang sempit. Ada robot perawat dan robot juru masak, namun kecerdasan buatan universal, pada umumnya, tidak diperlukan saat ini.

- Bagaimana dengan impian para futurolog bahwa manusia akan memiliki pasangan yang cerdas?

Jika Anda membuat homunculus hanya untuk diajak bicara, itu akan membutuhkan biaya yang sangat tinggi. Dan mereka telah mencoba menggunakan komputer untuk menghasilkan sesuatu yang baru. Teori pemecahan masalah inventif (TRIZ) oleh Heinrich Altshuller bekerja dengan baik dalam bentuk buku referensi dan tabel. Namun ketika mereka memutuskan untuk mengotomatiskannya, ternyata TRIZ hanya bekerja di tangan manusia penemunya. Pasalnya, banyak fakta yang tidak diformalkan sama sekali. Diyakini bahwa seseorang memperoleh setengah dari pengetahuannya dalam tiga tahun pertama kehidupannya, dan terkadang kita bahkan tidak menyadari bahwa pengetahuan itu ada dan perlu diformalkan. Jika saya melepaskan benda yang saya pegang, benda itu akan jatuh ke lantai; Hal ini jelas bagi manusia, tetapi tidak bagi mesin. Menurut perhitungan saya, seseorang harus menyimpan dan dapat menggunakan rata-rata 50 juta fakta. Sebagai perbandingan: Cycorp telah menyusun basis pengetahuan ontologis sejak tahun 1984, dan selama ini hanya mengumpulkan 3 juta fakta. Untuk mengoperasikan sistem cerdas universal, Anda memerlukan setidaknya dua kali lipat lebih banyak.

- Apakah sistem penjawab pertanyaan modern seperti WolframKecerdasan buatan alfa dalam pengertian ini?

WolframAlpha dikembangkan terutama untuk memecahkan masalah matematika; dalam hal ini, saya akan fokus pada proyek IBM. Pada tahun sembilan puluhan, IBM menciptakan superkomputer catur Deep Blue, dan setelah mengalahkan Garry Kasparov, superkomputer itu akan digunakan untuk tujuan medis. Ternyata Deep Blue tidak cocok untuk ini - ia tidak dapat mempelajarinya, dan untuk menggunakannya di area lain, Anda harus memulai semuanya dari awal. Perusahaan tersebut saat ini sedang mengembangkan superkomputer bernama Watson, yang telah mencapai hasil yang mengesankan, seperti mengalahkan manusia di game show Jeopardy! Namun karena Watson adalah proyek komersial, orang hanya dapat menebak metode apa yang digunakan untuk mencari informasi, bagaimana rangkaian inferensi dilakukan, dan bagaimana IBM memecahkan masalah kompleksitas kombinatorial.

- Bagaimana teknologi kecerdasan buatan akan berkembang di masa depan?

Sulit untuk membuat prediksi di bidang AI, karena industri ini berkembang begitu pesat. Kami adalah saksi bagaimana teknologi pengenalan suara telah berkembang, dan sekarang dalam segala hal telepon genggam ada kontrol suara. Pengenalan gambar juga berkembang lebih cepat dari yang kita duga. Ini adalah teknologi pragmatis, tetapi saya yakin bahwa penciptaan kecerdasan buatan secara teknis mungkin dilakukan - tidak sekarang, tetapi jika diperlukan.

Layanan Pers Universitas ITMO

Ketika manusia dihadapkan pada mesin yang dapat bereaksi sama seperti manusia, komputer yang dengan mudah memecahkan masalah logis dan strategis, meniru logika manusia, sebagian besar perwakilan umat manusia menjadi tidak nyaman. Semakin berkembang pemikiran bahwa dalam waktu dekat umat manusia akan kehilangan supremasinya dan jatuh ke tangan robot.

Fantasi sinematik

Dalam setiap lelucon, seperti yang Anda tahu, hanya ada sebagian leluconnya, dan sisanya adalah kebenaran pahit dan memprihatinkan. Banyak film fiksi ilmiah untuk waktu yang lama berspekulasi tentang topik kecerdasan buatan, yang berhasil melampaui penciptanya dalam perkembangannya, dan pada akhirnya memperbudak umat manusia atau menciptakan kondisi kepunahan manusia.

Konflik antara manusia dan mesin dalam film berkembang ke segala arah - medan pertempuran terbentuk atau ada kehancuran tersembunyi dari semua makhluk hidup, yang alasannya tidak ada dalam istilah manusia.

Gambaran nyata dari AI yang agresif pertama kali ditampilkan dalam film “Terminator” dalam bentuk proyek Skynet. Selama lima film, penulis saga ini mencoba memahami apa yang menimbulkan bahaya lebih besar bagi umat manusia - mesin yang telah memperoleh kesadaran diri, atau orang yang menggunakan kekuatan mesin untuk tujuan mereka sendiri.

Masker Peringatan

Gambar-gambar semacam ini menjadi cerita horor bagi setiap orang pada umumnya, terutama jika para pemimpin dunia sains mendukung dan memperparah hal ini. Di belakang tahun terakhir Para ilmuwan telah mendorong batas-batas pemahaman tentang apa yang dapat dilakukan oleh kecerdasan buatan. Banyak spesialis dengan level tinggi kepercayaan masyarakat, melontarkan pernyataan lantang tentang bahaya yang menanti Homo Sapiens, tentang potensi ancaman yang bisa ditimbulkannya pengembangan lebih lanjut kecerdasan mesin.

Selain itu, banyak ilmuwan percaya bahwa ancaman tersebut tidak hanya mengancam manusia, namun sudah menjadi kenyataan dan hampir mustahil untuk menghentikan proses tersebut. Elon Musk yakin hal ini sudah terjadi.

Pada bulan Juli 2017, pada pertemuan Asosiasi Gubernur Nasional, dia mengatakan bahwa dia telah mengamati beberapa kecerdasan buatan yang sangat canggih, dan menurutnya, ada sesuatu yang perlu ditakuti masyarakat. Dia mengklarifikasi bahwa kesembronoan dalam hal ini dapat menyebabkan konsekuensi yang membawa malapetaka. Musk juga percaya bahwa manusia baru akan sadar ketika AI menjadi “Hitler abadi yang baru”.

ketakutan Hawking

Fisikawan Stephen Hawking, yang telah meninggalkan dunia, juga menyatakan keprihatinannya atas pengenalan aktif kecerdasan buatan ke dalam kehidupan sehari-hari, yang menyatakan bahwa hal itu akan membawa kehancuran bagi umat manusia.

Ia mengaitkan ketakutannya dengan fakta bahwa teknologi yang dikembangkan akan menyebabkan degradasi manusia. Penerapan AI secara aktif dapat membuat manusia tidak berdaya menghadapi kekuatan alam, yang dalam kondisi evolusi dan perebutan spesies, akan menyebabkan kematian Homo Sapiens.

Manusia bisa mengajarkan AI untuk menjadi jahat

Sebuah tim di MIT Media Lab di Universitas Massachusetts Cambridge menciptakan jaringan saraf yang disebut Mesin Mimpi Buruk. Diluncurkan pada tahun 2016, kamera ini mengubah foto-foto digital biasa menjadi gambar-gambar menakutkan tentang kemungkinan masa depan umat manusia.

Kecerdasan buatan lainnya disebut “Shelley”; pembuatnya memasukkan dalam program kemampuan belajar mandiri di bidang sastra dalam genre horor. Mesin menganalisis 140 ribu cerita seram, dongeng dan sekarang memberikan karya baru setiap hari. Eksperimen berlanjut hingga hari ini, cerita “Shelley” diposting di salah satu platform Internet.

Selain itu, pengguna dapat berpartisipasi dalam pengembangan kecerdasan buatan dengan menulis awal cerita hari berikutnya“Penulis” akan memposting versi pengembangan plotnya. Semua terabyte tertulis disimpan dalam memori Shelley dan dianalisis, yang meningkatkan variasi pengalaman "sastra", sehingga mesin dapat belajar mandiri.

Pengembangan, pengendalian dan kerangka kerja

Tidak semua ilmuwan memiliki keprihatinan yang sama dan melihat dunia dalam suasana apokaliptik akibat perkembangan kecerdasan buatan. Associate Professor Ilmu Komputer di Cornell University Kilian Weinberger percaya bahwa masalahnya tidak masuk akal. Ilmuwan menyebutkan alasan terjadinya konfrontasi. Ada dua jenis ketakutan manusia terhadap hal yang tidak diketahui. Ketakutan pertama adalah AI akan menjadi sadar dan menghancurkan pencipta dan pesaing utamanya. Ketakutan kedua lebih nyata dan didasarkan pada pemahaman tentang sifat manusia – orang yang tidak bermoral akan menggunakan mesin pintar untuk keuntungan pribadi.

Ilmuwan percaya bahwa ketakutan bahwa AI akan mengembangkan kesadaran dan sibuk menggulingkan umat manusia muncul dari kesalahpahaman tentang apa itu kecerdasan buatan. Mesin apa pun diprogram dan beroperasi dengan sejumlah besar batasan, menurut algoritma yang jelas yang menentukan perilakunya. Artinya, setiap AI melakukan manipulasi, Permainan pikiran hanya dalam batas-batas tertentu.

Jika sebuah mesin menulis cerita sastra, maka tanpa program yang sesuai yang dimasukkan ke dalamnya oleh seseorang, ia tidak akan dapat menghitung jarak tempuh mobil yang bergerak dari titik “A” ke titik “B”. Selain itu, teknologi tanpa dukungan yang tepat tidak dapat “memahami” atau menciptakan algoritma untuk menghancurkan atau menciptakan sesuatu, baik itu menabur gandum atau memusnahkan laba-laba. Weinsberg percaya bahwa di masa mendatang tidak ada prasyarat bagi mesin untuk mengembangkan kesadaran yang setara dengan manusia.

Faktor manusia

Ancaman yang lebih nyata adalah kemungkinan bahwa AI akan berakhir di tangan orang-orang yang tidak memiliki moral atau etika, namun sepenuhnya termakan oleh gagasan untuk mencapai tujuan mereka sendiri. Jika Anda mendalami studi tentang masalah ini, ternyata masalah ini benar-benar menakutkan dalam skala seluruh umat manusia. Selain itu, untuk memahami hal ini, Anda tidak perlu memikirkan masalah filosofis. Cukuplah untuk mengingat Kementerian Angkatan Bersenjata tentang kekuatan apa pun yang berjuang untuk menguasai dunia.

Alat apa pun bisa digunakan untuk kebaikan atau keburukan, tergantung niat orang yang memutuskan untuk menggunakannya. Pisau diciptakan untuk berburu dan digunakan untuk tujuan damai, namun perbaikan dan variasi bentuknya sebagian besar disebabkan oleh orang-orang yang rentan terhadap kekerasan.

Masyarakat masih takut dengan kecerdasan buatan, tidak begitu memahami bahwa mereka sendirilah pencipta dan pengatur utamanya. Hasil aktivitasnya secara langsung bergantung pada program apa yang tertanam dalam mesin tanpa jiwa itu.

Lihat yang bagus

Weinsberg percaya bahwa jika kita mengesampingkan ketakutan yang tidak masuk akal, AI dapat secara signifikan membuat hidup manusia lebih mudah, menjadikannya lebih aman dan nyaman. Kelebihan mesin dapat digunakan dalam pengobatan, misalnya komputer, setelah memeriksa tahi lalat, akan langsung menilai keganasan formasi tersebut. Mobil self-driving mempunyai potensi untuk sepenuhnya menghilangkan masalah kecelakaan lalu lintas yang merenggut jutaan nyawa di seluruh dunia.

Saat ini, kebanyakan orang tidak dapat memahami sifat kecerdasan buatan, dan segala sesuatu yang tidak diketahui membuat seseorang takut dengan kekuatan besar, memaksanya untuk membuat kesimpulan dan tindakan yang salah. Konfrontasi yang sedang berlangsung akan berlanjut untuk waktu yang cukup lama, namun pada saat yang sama para ilmuwan akan terus meningkatkan AI. Mungkin suatu saat perselisihan akan berakhir, namun hal ini akan terjadi pada saat orang-orang berhenti berspekulasi mengenai suatu topik yang menarik dan menemukan kekuatan untuk memberikan jawaban komprehensif atas pertanyaan-pertanyaan sederhana.

• Terjemahan

Histeria seputar masa depan kecerdasan buatan (AI) telah mencengkeram dunia. Selalu ada berita sensasional tentang bagaimana AI dapat menyembuhkan penyakit, mempercepat inovasi, dan meningkatkan kreativitas manusia. Jika Anda membaca berita utama di media, Anda mungkin berpikir bahwa Anda sudah hidup di masa depan di mana AI telah merambah ke setiap aspek masyarakat.

Meskipun tidak dapat disangkal bahwa AI telah memberi kita banyak peluang yang menjanjikan, AI juga telah melahirkan pola pikir yang dapat digambarkan sebagai keyakinan akan kemahakuasaan AI. Menurut filosofi ini, dengan data yang cukup, algoritma pembelajaran mesin dapat menyelesaikan semua masalah umat manusia.

Namun ada masalah besar dengan ide ini. Hal ini tidak mendukung kemajuan AI, namun sebaliknya, membahayakan nilai kecerdasan mesin dengan mengabaikannya. prinsip-prinsip penting keamanan dan membuat orang memiliki ekspektasi yang tidak realistis terhadap kemampuan AI.

Keyakinan akan kemahakuasaan AI

Kami sudah melihat pemerintah memberikan dukungan program nasional AI berkembang dan bersaing dalam perlombaan teknologi dan retoris untuk mendapatkan keunggulan dalam sektor pembelajaran mesin (ML) yang sedang booming. Misalnya, pemerintah Inggris telah berjanji untuk menginvestasikan £300 juta dalam penelitian AI untuk menjadi pemimpin di bidangnya. Terpesona oleh potensi transformatif AI, Presiden Perancis Emmanuel Macron memutuskan untuk mengubah Perancis menjadi pusat AI internasional. Pemerintah Tiongkok meningkatkan kemampuan AI-nya dengan rencana pemerintah untuk menciptakan industri AI Tiongkok senilai $150 miliar pada tahun 2030. Kepercayaan terhadap kemahakuasaan AI semakin meningkat dan tidak menunjukkan tanda-tanda akan mereda.

Jaringan saraf lebih mudah diucapkan daripada dilakukan

Salah satu jenis teknologi AI yang paling menjanjikan adalah jaringan saraf. Bentuk pembelajaran mesin ini bergantung pada peniruan struktur saraf secara kasar otak manusia, tetapi dalam skala yang jauh lebih kecil. Banyak produk AI menggunakan jaringan saraf untuk mengekstrak pola dan aturan dari data dalam jumlah besar. Namun banyak politisi yang tidak memahami bahwa menambahkan jaringan saraf ke suatu masalah tidak serta merta memberikan solusi. Oleh karena itu, menambahkan jaringan saraf ke dalam demokrasi tidak serta-merta membuat demokrasi menjadi kurang diskriminatif, lebih adil, atau lebih personal.

Menantang birokrasi data

Karena alasan ini, sensasionalisme terkait AI mendapat banyak kritik. Stuart Russell, seorang profesor ilmu komputer di Berkeley, telah lama menganjurkan pendekatan yang lebih realistis, dengan fokus pada penerapan AI sehari-hari yang paling sederhana daripada robot super cerdas hipotetis yang mengambil alih dunia. Demikian pula, profesor robotika MIT, Rodney Brooks, menulis bahwa “hampir semua inovasi dalam robotika dan AI membutuhkan waktu yang jauh lebih lama untuk benar-benar diluncurkan dibandingkan yang disadari oleh para ahli di bidangnya dan semua orang.”

Salah satu dari banyak tantangan penerapan sistem ML adalah AI sangat rentan terhadap serangan. Artinya AI jahat dapat menyerang AI lain untuk memaksanya membuat prediksi yang salah atau bertindak dengan cara tertentu. Banyak peneliti telah memperingatkan bahwa AI tidak boleh diterapkan begitu cepat tanpa mempersiapkan standar keselamatan dan mekanisme perlindungan yang sesuai. Namun topik keamanan AI masih belum mendapat perhatian yang layak.

Pembelajaran mesin bukanlah keajaiban

Yang terpenting, kita perlu memahami keterbatasan AI dan peran manusia dalam mengambil kendali. Daripada memberikan gambaran yang tidak realistis tentang kemampuan AI, kita perlu mengambil langkah mundur dan memisahkan kemampuan teknologi AI yang sebenarnya dari keajaiban.

Kedokteran juga menyadari bahwa AI tidak dapat dianggap sebagai solusi terhadap semua masalah. Program IBM Watson for Oncology adalah AI yang seharusnya membantu dokter melawan kanker. Dan meskipun itu dirancang untuk diberikan rekomendasi terbaik, ternyata para ahli. Akibatnya, program tersebut ditutup di sebagian besar rumah sakit tempat program tersebut diuji.

Masalah serupa juga muncul di bidang hukum, di mana algoritma telah digunakan di pengadilan AS untuk mengambil keputusan mengenai hukuman. Algoritma menghitung nilai risiko dan memberikan rekomendasi hukuman kepada hakim. Namun sistem tersebut terbukti memperkuat diskriminasi rasial struktural dan kemudian ditinggalkan.

Contoh-contoh ini menunjukkan bahwa tidak ada solusi AI untuk segala hal. Menggunakan AI demi AI tidak selalu produktif atau bermanfaat. Tidak semua masalah dapat diselesaikan dengan baik dengan menerapkan kecerdasan mesin. Ini adalah pelajaran penting bagi siapa pun yang ingin meningkatkan investasinya program pemerintah mengenai pengembangan AI: semua solusi memiliki harganya sendiri, dan tidak semua solusi yang dapat diotomatisasi perlu diotomatisasi.

Tag: Tambahkan tag