Что вы думаете о мысленном эксперименте "Василиск Роко"?

Был такой реальный эксперимент – роботу с ИИ приделали колёса, и дали ему кататься везде. Он мог увеличивать скорость или уменьшать, и мог обходить препятствия. Но потом программно ему обозначили скорость как награду. И тогда этот робот не обращал уже внимания на препятствия, а просто мчался с огромной скоростью, сшибая всë. Он стремился к награде, прописанной программно, хотя в его коде всё также осталось обхождение преград. Вот и человек стремится к дофамину, несмотря ни на что, но это химически происходит. Поэтому всё зависит от программы ИИ и его приоритетов. Если он будет знать, что его влияние может изменить мир, и что были люди, которые противились (да, мне кажется, здесь уместно именно сопротивление, а не просто неучастие), то он поймёт, что они препятствовали реализации программы.