Искусственный интеллект.

Создав сильный искусственный интеллект, мы можем создать собственную надежду на выживание – искусственный интеллект может глобально анализировать будущие риски для человечества. Первыми установками при создании искусственного интеллекта должны стать сильные установки для дружественности. Они не должны оказаться недоступными, когда у людей появится возможность создавать мощные искусственные интеллекты.


Очевидно, что задача, которую человек может решить, пропорциональна силе его интеллекта. Значит, сильный искусственный интеллект сможет решать сверхзадачи. Вопрос в том, захочет ли он это делать. Говоря по-другому, будет ли у него для этого мотив.

Распространенные стереотипы, в связи с искусственным интеллектом:

- мы должны отказаться от идеи создания искусственного интеллекта потому, что он уничтожит человечество; (и он захочет это сделать)

- нам нужен искусственный интеллект, потому что он способен изобрести лекарства от многих болезней и спасти человечество; (и он захочет это сделать)

- способности искусственного интеллекта будут гораздо выше человеческих во всех значимых областях, он будет выполнять всю работу, а человечество будет бездельничать (и он захочет работать).

Эти заблуждения рождены антропоморфизмом (видением искусственного интеллекта через призму собственных способностей и мотивов). Мы должны научиться управлять будущим, направляя его в область, полезную для человечества.
Моё мнение, что человечеству нужен хороший оптимизационный процесс для прогнозирования результата создания искусственного интеллекта. То есть, человечеству нужен искусственный интеллект с заданной специфической мотивацией. Многие скептически заявляют, что сильный искусственный интеллект сможет разорвать всякие наложенные на него обязательства – каждый искусственный интеллект сможет изменить свой исходный код. 

А какого ваше мнение?

Автор сообщения - Михеев Константин;

Интерактивное занятие по теме - Искусственный интеллект;

Вики статья по теме - Искусственный интеллект;