Turpinot uzlabot mākslīgās domāšanas sistēmas, kaut kādā brīdī mēs uzbūvēsim mašīnas, kas būs gudrākas par mums. Tikko tas notiks, tās sāks uzlabot sevi pašas.

Vienkārši padomājiet, kā mēs izturamies pret skudrām. Nav jau tā, ka mēs tās neieredzam. Taču, tiklīdz to eksistēšana sagādā mums vismazākās neērtības, mēs tās iznīcinām, nejūtot nekādas šaubas. Kādreiz mēs uzbūvēsim mašīnas, kas attieksies pret mums ar tādu pašu neiecietību.

Daži no mums, iespējams, šaubās par iespēju un vēl vairāk, neizbēgamību, ka radīsies pārgudrs MI. Taču tad jums vajadzēs apstrīdēt šādus trīs apgalvojumus.

Pirmais. Intelekts ir informācijas apstrādes produkts fiziskā sistēmā.

Mēs jau esam iebūvējuši ierobežotu intelektu mašīnās un dažas no tām uzrāda pārcilvēciskās spējas. Tas var radīt vispārējā mākslīgā intelekta uzplaukumu, kas būs spējīgs uz tikpat lokanu domāšanu kā mūsu smadzenes.

Otrais. Mēs turpinām uzlabot domājošas mašīnas. Ir problēmas, ko atrisināt mēs gribam tik ļoti, ka tikai MI var mums palīdzēt. Piemēram, mēs gribam izārstēt tādas slimības kā Alcheimers vai vēzis.

Trešais. Mēs neatrodamies intelekta attīstības virsotnē. Acīmredzot intelekta diapazons plešas daudz tālāk, kā mēs domājam. Ja mēs uzbūvēsim mašīnas, kas būs gudrākas par mums, tās izpletīs šo spektru tā, kā mēs pat iedomāties nespējam.

Iedomāsimies, ka mēs radīsim superattīstītu intelektu, kas būs gudrāks par veselu Stenfordas vai MIT pētnieku grupu. Neaizmirstiet, ka elektronu shēmas funkcionē miljons reižu ātrāk, kā bioķīmiskās, tāpēc mašīna arī domās miljons reižu ātrāk. Kā mēs vispār spēsim to saprast, nemaz nerunājot par to, kā piebremzēt saprātu, kas progresē tādā ātrumā?

Taču iedomāsimies, ka mums tomēr pēkšņi rodas ideja, kā radīt drošu supersaprātīga intelekta variantu. Tas spēs projektēt mašīnas, kas veiks jebkādu fizisku darbu. Pienāks gals jebkādam smagam darbam, taču tādā pat veidā, zināmā mērā - arī intelektuālajam darbam.

Pajautājiet sev, kas tad notiks ar ekonomisko un politisko kārtību? Iespējams, ka mēs kļūsim par upuriem neredzēta mēroga nevienlīdzībai un bezdarbam. Tāda mašīna būs spējīga arī karot, vai uz zemes, vai kibertelpā, un ar neredzētu spēku.

Diemžēl es nezinu, kā atrisināt šīs trīs problēmas, taču rosinu vismaz padomāt par tām. Domāju, ka mums ir nepieciešams kaut kas līdzīgs Manhetenas projektam MI jautājuma risināšanā. Ne jau tāpēc, lai to radītu - tas tāpat ir neizbēgami - bet, lai saprastu, kā izbēgt no bruņošanās sacensības un uzbūvēt MI tādu, lai mūsu intereses sakristu.

Jāatzīst, ka mēs esam sava veida Dieva radīšanas procesā. Tagad mums ir lielisks brīdis, lai padomātu, kā sadzīvot ar šo Dievu.