mesterséges intelligencia veszély emberiség

A kép csak illusztráció (Forrás: Pixabay)

Az Oxfordi Egyetem és a Google mesterséges intelligenciával foglalkozó DeepMind részlegének kutatói azt állítják, hogy a mesterséges intelligencia fejlett formái veszélyesek az emberi életre

A kutatók az AI Magazine című szakfolyóiratban nemrég megjelent elemzésben arra figyelmeztettek, hogy „katasztrofális következményekkel” járna, ha bizonyos mesterségesintelligencia-ágensek fejlődése folytatódna.

hirdetés

Vezető filozófusok korábban emlegették a mesterséges intelligencia fejlett formáinak veszélyeit, amelyek túlnőnek az ember mentális képességein, de az új tanulmány egyik szerzője szerint ezek a figyelmeztetések nem jelzik a probléma súlyát.

Az informatikusok most azzal érveltek, hogy a fejlett mesterséges intelligencia fenyegetést jelent az emberiségre:

egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínűírta Michael Cohen társszerző a Twitteren.

Elcsalja tőlünk az erőforrásokat

A cikk egy olyan forgatókönyvet vázol fel, amelyben egy mesterséges intelligencia kitalál egy csalási stratégiát, hogy megkapja az előre beprogramozott jutalmat. Ahhoz, hogy maximalizálja a jutalmazási lehetőségét, annyi energiára van szüksége, amennyit csak megszerez. A gondolatkísérlet szerint az emberiség végső soron a mesterséges intelligenciával versenyez az energiaforrásokért.

„Nehéz lenne megnyerni a versenyt az utolsó rendelkezésre álló energiáért, miközben egy nálunk sokkal okosabb dolog ellen játszunk”

– írta Cohen az Independent szerint, aki szerint a vereség végzetes lenne.

Ezek a lehetőségek, bármennyire is elméleti jellegűek, azt jelentik, hogy lassan kellene haladnunk, ha egyáltalán haladni szeretnénk az erősebb mesterséges intelligencia kialakulása felé.

A mesterséges intelligencia haszna vitathatatlan

A DeepMind már javasolt egy biztosítékot egy ilyen eshetőség ellen, amit „nagy piros gombnak” nevezett el. A 2016-os, Biztonságosan megszakítható mesterséges intelligenciák című dokumentumban a cég felvázolt egy keretrendszert annak megakadályozására, hogy a fejlett gépek figyelmen kívül hagyják a kikapcsolási parancsokat, és irányíthatatlanná váljanak.

Nick Bostrom professzor korábban úgy jellemezte a DeepMindot – amelynek mesterséges intelligenciával elért eredményei között szerepel az emberek legyőzése a Go társasjátékban és a nukleáris fúzió manipulálása –, mint amely a legközelebb áll az emberi szintű mesterséges intelligencia megteremtéséhez. A svéd filozófus azt is mondta, hogy „nagy tragédia” lenne, ha a mesterséges intelligencia fejlesztése nem folytatódna, mivel az magában rejti a betegségek gyógyításának és a civilizáció egyébként lehetetlen ütemű fejlődésének lehetőségét.

Forrás- A nyitókép csak illusztráció, forrás: Pexels képe a Pixabay -en. 

TOP 5

Ne maradjon le
egy hírről sem

utajovobe.eu
Rendszerezett a fenntartható fejlődés oktatásához is felhasználható tudás. Segíti az oktatók környezeti nevelésének beépítését az oktatott tantárgyakba.

Copyright © 2011 Fenntartható fejlődés gyakorlati szemmel - Útajövőbe.eu. Minden jog fenntartva.
Weboldal programozás, karbantartás SelfMed.pro. Villám tárhely Szerver.eu