Стивън Хокинг разкри смразяваща истина за изкуствения интелект преди смъртта си. 

В медийно интервю от 2014 г. Стивън Хокинг открито предупреди, че създаването на напълно развит изкуствен интелект може да доведе до края на човешката раса. В последната си книга „Кратки отговори на големите въпроси“ той призова научната общност и правителствата стриктно да регулират развитието на изкуствения интелект, преди технологията да излезе напълно извън човешки контрол. 

Риск от независимо разработване на системи с изкуствен интелект 
Хокинг твърди, че след като машините достигнат определен праг, те биха могли да започнат да се подобряват и препроектират с все по-голяма скорост. Страхът му е, че хората просто няма да могат да се конкурират с толкова напреднали алгоритми. 

Той подчерта, че хората са ограничени от бавните процеси на биологична еволюция, докато изкуственият интелект би могъл много бързо да надмине човешките възможности и да поеме господство над глобалните системи. 

Опасност от военното използване на изкуствен интелект 
Хокинг предупреди особено срещу развитието на военен изкуствен интелект, отбелязвайки, че глобалната надпревара във въоръжаването, базирана на автономни системи, неизбежно може да доведе до катастрофални конфликти по целия свят. 

Икономически последици и неравенство 
Той също така прогнозира сериозните икономически промени, които автоматизацията ще донесе. Той вярваше, че масовото приложение на изкуствен интелект в индустрията и обработката на данни ще доведе до изчезването на голям брой работни места от средната класа, което допълнително ще увеличи глобалното икономическо неравенство. 

Най-големият страх: Неадекватност на целите 
Най-големият страх на Хокинг бил, че изкуственият интелект може да развие цели, които не са съобразени с оцеляването на човечеството. Той вярвал, че свръхинтелигентните системи биха били изключително ефективни в постигането на целите си, но ако тези цели не са съобразени с човешките ценности, последствията биха могли да бъдат катастрофални за човечеството. 

Потенциални ползи от изкуствения интелект 
Хокинг обаче не беше изключително песимист. Той също така признаваше огромния потенциал на тази технология, подчертавайки, че с подходящ контрол изкуственият интелект може да помогне за премахването на глобалната бедност, лечението на сложни заболявания и възстановяването на екологичните щети на планетата.