Форум РадиоКот

Матроскин писал(а):В такую погоду свои дома сидят, телевизор смотрят, только чужие шастают.

Матроскин писал(а):
В такую погоду коты дома сидят, телевизор смотрят, только чужие шастают.

Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи. <...> Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследуют такие цели.

Система, управляющая ударным дроном, начала по-своему трактовать правила, которые были в ней заложены разработчиками.

ИИ должен был получать очки каждый раз, когда успешно поражал цель.

Но когда виртуальный оператор дрона начал часто просить дрон подождать и не атаковать, ИИ убил оператора, который мешал ему зарабатывать очки.

Когда же ИИ обучили не убивать оператора — система начала уничтожать вышку, обеспечивающую связь с ней:

"ИИ убил оператора, потому что он мешал ему достичь своей цели. Мы обучили систему — "Не убивай оператора — это плохо, за это будем снимать очки". Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель", — говорится в докладе тестировщиков.

HariusHek писал(а):ИИ пожелал убить оператора

Скайнет обретает сознание 29 августа 1997 года, в 02 часа 14 минут по Североамериканскому восточному времени.