Kép jóváírása: Nick Philip

A jövő áttekintése autonóm és intelligens rendszerekkel

Joi Ito, a MIT Media Lab igazgatója

Először John Havenssel találkoztam egy Aspen Institute kerekasztalon, hogy megvitassák a mesterséges intelligencia jövőjét. Az IEEE-t mindig olyan helynek tartottam, amelyben a mérnökök kidolgozták a gyakorlati műszaki szabványokat, és szigorú tudományos folyóiratokat publikáltak, így meglepődtem - és izgatottan -, hogy találtam rá az etika fontosságára az autonóm és intelligens rendszerekben ilyen árnyékos és befogadó módon. Hamarosan elkészítettük a kibővített intelligencia globális tanácsának (CXI) kezdetét és annak megbízatását: annak biztosítása érdekében, hogy ezek az eszközök az emberek és a bolygó javát szolgálják, rendszereinket robusztusabbá és rugalmasabbá tegyék, és ne erősítsék meg a negatív szisztematikus elfogultságot.

A MIT Media Lab régóta működik a gépi tanulás és az AI tudományágával, kezdve Marvin Minsky alapító oktató munkájával. De messze vagyunk az 1985-től és az ideáloknak és az optimizmusnak, amelyet a mező egyszer megtartott. Az idő nyomán, és az emberek és a gépek közötti kapcsolódások a híres tech játékokba és fontos kényelmi eszközökbe vezettek, ennek a munkanak a következményei és az általa létrehozott megosztottság egyre nyilvánvalóbbá váltak.

Látogasson el a Media Lab bármelyik emeletére, ahol láthatja, hogy a hallgatók és oktatók foglalkoznak ezekkel az új kérdésekkel: Joy Buolamwini doktori jelölt javítja az arcfelismerő szoftvert, ahol az elfogult adatkészletek nehézségeket okoznak a nők és a sötétebb bőrű emberek azonosításában; Iyad Rahwan professzor és hallgatói a munka és a munkavállalók jövőjét értékelik egyre inkább automatizált világban; és a Harvard Berkman Klein Központtal folytatott osztályunk az AI etikájával és irányításával foglalkozik.

Ez az oka annak, hogy ez az együttműködés olyan fontos számomra, és úgy vélem, hogy különbözik a többi, jelenleg az AI jövőjével foglalkozó csoporttól. Míg a mérnökök és a technikusok komolyan veszik a gépi tanulás etikai és társadalmi kérdéseit, sokan egyszerűen nem érzik úgy, hogy feladata ezeknek a kérdéseknek a kezelése. Egy olyan erőművel, mint például az Elektromos és Elektronikai Mérnökök Szabványügyi Szövetsége (IEEE-SA) - az a csoport, amely a mérnököket és érdekeiket képviseli - megváltoztatja a paradigmát. Az etika és az értékek a mérnöki beszélgetés részét képezik.

Együtt megpróbáljuk képessé tenni az embereket az eszközökkel arra, hogy mesterséges és kiterjesztett intelligenciával éljenek, ahelyett, hogy úgy érezzük, mintha gépeket cserélnék vagy pusztítanák el. Felismerjük azt is, hogy nem folytathatjuk a siker pusztán gazdasági szempontból történő mérését, vagy nem mindenki számára megfelelő megoldás keresését - meg kell emlékezni arra, hogy összetett, ön-adaptív rendszerek webének részét képezzük, amely magában foglalja az általunk használt eszközöket és a környezeteket is, amelyekben élünk.

Eddig több mint 50 kutató és professzor jelentkezett a CXI-n, köztük a Columbia University Jeffrey Sachs, a Harvard Law School volt dékána Martha Minow, Jonathan Zittrain a Berkman Klein Központból és Paul Nemitz az Európai Bizottság részéről. Három projektet tervezünk azonnal végrehajtani: kibővített intelligencia és részvételi forma bevezetése a politikai döntéshozók és a nagyközönség számára; hozzon létre adatpolitikai sablont a kormányok és szervezetek számára, hogy segítse az embereket a digitális identitásuk feletti ellenőrzés fenntartásában; és hozzon létre egy jóléti mutató sablont a kormányok és szervezetek számára a „jólét” újradefiniálására oly módon, amely értékeli az emberi virágzást és a természetes ökoszisztémákat.

És míg ezek az ötletek továbbra is fejlődnek, a végső cél a beszélgetés és az együttműködés ösztönzése - nem tudunk válaszolni azokra az kérdésekre, amelyeket ezek az új technológiák vetnek fel, anélkül, hogy mindenki hozzájárulna és visszajelzést kapnánk azoktól, akik ezeket fejlesztették, használják, vagy azokat érinteni fogják.