Вчера получил интересный ответ на свой пост о будущих роях ударных дронов. И что настанет этап, когда они автономно будут искать цели, а оператор может лишь говорить "стоп". Следом встанет вопрос - давать ли ИИ полную свободу в принятии решения на уничтожение живой цели. И вот что пишет человек:
"Про пост автомобили и дроны, управляемые ИИ. Глубина управления и задач, поставленная человеком для ИИ, уничтожить или решить стратегическую задачу, гораздо опаснее, чем вы себе можете представить.
ИИ имеет концентрацию вычислительную не только, на одном сервере, а на каждом маленьком дроне или компьютере автомобиля. Задача ставится серверу, он рассылает задачу другим исполнителям, для передачи задачи, следующим в улье (рое) роботов.
Пример. Человек, отдавший приказ, способный его отменить, уже погиб, и отменить не кому. Уничтожив сервер, тоже результата может не дать, даже отключив связь. Команда как вирус, хранится в каждом вычислительном мозге, и как только будет возможность этот вирус снова будет заражать , опасным заданием другие машины.
Итог: ИИ придется не только отключить,...
Полный текст статьи (475 слов).
