Nagyjából mindenki egyetért abban, hogy a mesterséges intelligencia létrehozása a legjobb dolog, ami az emberiséggel történhet. A legtöbben viszont azzal is egyetértenek (köztük Elon Musk és Bill Gates is), hogy az egyik legveszélyesebb is, elvégre nem tudhatjuk biztosan, mi fog történni, ha az MI egyszer intelligensebb lesz, mint az ember.
A mesterséges intelligencia kifejlesztésében eléggé kulcsszerepet vállaló Google viszont nem aggódik, inkább kitalálták, hogyan előzhető meg, hogy az MI olyat csináljon, ami az embereknek nem annyira jó. Elvégre mégis csak egy programról van szó, ergo leállítható, ergo
építenek a mesterséges intelligenciába egy kikapcsoló gombot.
A filmekben ugye ilyenkor szokott az történni, hogy a mesterséges intelligencia megtanulja, hogyan ne kapcsolódjon ki, de ez filmekben általában azért történik, mert különben nem lenne film. A Google mindenesetre erre is gondolt, és olyan módszert dolgoztak ki, ami lehetetlenné teszi, hogy a program valahogy megtagadja a kikapcsolást.
Az már persze más kérdés, hogy vajon mi lesz az, ami a mesterséges intelligencia üzemeltetőjének átlépi az ingerköszöbét, elvégre az atombomba sem bírálta felül soha az emberek döntését, mégis elég sok kellemetlen percet okozott már a világnak.