Искусственный интеллект.

[As]

Имитатор не имеет моральных принципов и одинаково исполняет любую программу - что спасти человека, что убить его, легко и без сомнений идёт на кражу, взлом, обман... Можно ли в человеческое общество выпускать квазиинтеллект с полной и абсолютной аморальностью- или, всё-таки, задуматься, как эта беспринципность может повлиять на человеческое общество? А ведь Имитатор уже влияет, просто некоторые не замечают этого, пока петух не клюнет...

[HariusHek]

Да ничего. Кроме того, что обезьянам дали не одну гранату, а предоставили целый арсенал.

Если говорить о "целом арсенале", то ей является не AI, а финтех. То есть финансовые технологии создающие современные удобства в операциях с деньгами.
Что касается AI и злых умыслов, то это невозможно контролировать. Злой умысел легко отделить от задачи поставленной для AI, абстрагировав задачу. Это ровно то, о чем я говорил с самого начала - столовый нож может быть кухонным инструментом и инструментом убийства. Все зависит от целеполагания.
Есть ли смысл запрещать кухонные ножи, молотки, ножницы, серпы...? То есть всё, что может быть применено во зло (и очень часто применяется, к слову).

Да причём тут столовый нож? Нож - это практически первый инструмент, человечество без него не обходится уже тысячи и тысячи лет. Человек не вступает в диалог с ножом, не спрашивает у ножа подсказок и советов.
ИИшница сама по себе уже проявляет злой умысел, в отличие от ножа, молотка или топора.
В конце-концов, в случае с материальными предметами, орудие готовящегося преступления можно изъять, предотвратив преступление. Да и преступника выявить намного проще (не легче, а проще). А каким образом лишить человека возможностью пользоваться ИИ? Джинн уже на свободе.

[КРАМ]

ИИшница сама по себе уже проявляет злой умысел.

Например, в чём?
AI не может иметь никакого умысла. Умысел может быть только у человека.

[HariusHek]

ИИшница сама по себе уже проявляет злой умысел.

Например, в чём?
AI не может иметь никакого умысла. Умысел может быть только у человека.

Тогда надо не меня поправлять, а придумать и ввести в обиход термины, означающие вредоносные действия ИИ (причём, самостоятельные).

[КРАМ]

Тогда надо не меня поправлять, а придумать и ввести в обиход термины, означающие вредоносные действия ИИ (причём, самостоятельные).

А такие действия имеются?
Хотелось бы о них услышать не от журналюг... То, что я слышал, всё укладывается в злой умысел (или ошибки) ЛЮДЕЙ применяющих AI.

[HariusHek]

Не от журналюг, от сами разработчики говорят, что ИИшница порой стремиться выйти из-под контроля.

[КРАМ]

Не от журналюг, от сами разработчики говорят, что ИИшница порой стремиться выйти из-под контроля.

Сами разработчики нагло врут. Причем не очень то скрывают факт своего вранья. Это хорошо заметно по их действиям на рынках.
Любой специалист в AI вам подтвердит мои слова.
AI в принципе не может выйти из под контроля. Просто потому, что не имеет никаких выходов. Все выходы ей предоставляет человек. Как и все входы.

[74hc257]

А ИИ, может вызвать зависимость у человека, как игры, табак ?

[HariusHek]

Не от журналюг, от сами разработчики говорят, что ИИшница порой стремиться выйти из-под контроля.

Сами разработчики нагло врут. Причем не очень то скрывают факт своего вранья. Это хорошо заметно по их действиям на рынках.
Любой специалист в AI вам подтвердит мои слова.
AI в принципе не может выйти из под контроля. Просто потому, что не имеет никаких выходов. Все выходы ей предоставляет человек. Как и все входы.

Странно... Разработчики нагло врут, а их детище всегда честно?

[HariusHek]

А ИИ, может вызвать зависимость у человека, как игры, табак ?

Так уже...

[КРАМ]

Странно... Разработчики нагло врут, а их детище всегда честно?

Во первых, совершенно не странно. Патамушта именно такая комбинация соответствует задачам бизнеса. Разработчики пытаются осадить конкурентов и при этом должны делать востребованный товар. Кто же будет покупать лицензии, если AI врет?
Во вторых, как любая нечеткая логика, AI может выдавать ложный результат. Это, кстати, зависит от лицензии. Бесплатные имеют ограниченные ресурсы AI и потому в сложных задачах частенько дают невалидный результат или в какой то существенной части невалидный.

[КРАМ]

Так уже...

И что тут страшного?
Я, например, уже давно профессионально зависим от разных сред разработки.
Из этого не следует, что я не могу обойтись без них вообще. Я не могу обойтись без них В УСЛОВИЯХ СОВРЕМЕННОГО ТЕМПА разработки.
В такой же мере мы все зависимы от любого проявления прогресса. Это происходит из-за взаимной зависимости людей. Это НЕИЗБЕЖНО.

[74hc257]

Конечно фантастично выглядит, но если провести параллели между грибом паразитируещем на муравье и заставляющем выполнять муравья определенные действия, и ИИ взломавшим разум и овладевшим человеком.
Представляю фильм ужасов

[КРАМ]

ИИ взломавшим разум и овладевшим человеком.

ИИ не может взломать разум. У него нет такого интерфейса. Но разум может взломать живой человек, создав такой интерфейс.
Причем тут ИИ? ИИ- это просто распределенный вычислительный ресурс с обученной моделью. Железо ИИ имеет выход на пользователей через лицензию и свой комп с экраном, мышкой и клавиатурой. Воля владельца этого компа, который оплатил лицензию или согласился с бесплатной включать комп и запускать свой аккаунт в ИИ или не делать этого. Зависимость от ИИ носит исключительно внутренний характер и может быть пресечена в любой момент как самим владельцем, так и неопределенным кругом иных лиц.

[HariusHek]

Спойлер

Странно... Разработчики нагло врут, а их детище всегда честно?

Во первых, совершенно не странно. Патамушта именно такая комбинация соответствует задачам бизнеса. Разработчики пытаются осадить конкурентов и при этом должны делать востребованный товар. Кто же будет покупать лицензии, если AI врет?
Во вторых, как любая нечеткая логика, AI может выдавать ложный результат. Это, кстати, зависит от лицензии. Бесплатные имеют ограниченные ресурсы AI и потому в сложных задачах частенько дают невалидный результат или в какой то существенной части невалидный.

И что тут страшного?
Я, например, уже давно профессионально зависим от разных сред разработки.
Из этого не следует, что я не могу обойтись без них вообще. Я не могу обойтись без них В УСЛОВИЯХ СОВРЕМЕННОГО ТЕМПА разработки.
В такой же мере мы все зависимы от любого проявления прогресса. Это происходит из-за взаимной зависимости людей. Это НЕИЗБЕЖНО.

То есть, ИИ вовсе не панацея, и не волшебная палочка, как трубили годами подряд.
Мало того, само ИИшница проявляет далеко не самые лучшие черты характеров людей, полученные им, так сказать, "по наследству" от своих создателей, и/или в процессе обучения.
Айзек Азимов задумался над этим более 80-ти лет назад.

А то, что некоторые специалисты уже не могут обойтись без ИИ, разве не говорит о том, что их втягивают в бесконечную конкурентную гонку?
Причём, как между самими профильными специалистами, так и между специалистами IT-компаний?
Теперь темп - это наше всё?

Но ведь мир населён не только специалистами узкого профиля, о моральной стороне вопроса тоже стоит задумываться.

Люди торопятся, а в таком темпе ошибки неизбежны. Я сам против того, чтоб меня кто-то подгонял, зато все довольны результатами моей работы.

[КРАМ]

То есть, ИИ вовсе не панацея, и не волшебная палочка, как трубили годами подряд.

Я не знаю кто такую чушь трубил...
Полагаю, что ее трубили какие то журналюги ради желтой сенсации.
AI в настоящий момент является мощным инструментом ЧЕЛОВЕЧЕСКОГО РАЗУМА. Автономно он используется в некоторых специфических задачах, где он вообще не имеет выхода на широкий круг людей. Это такие задачи как автопилот, поиск объектов в потоковом видео, разного рода задачи управления процессами и тому подобные задачи.

Мало того, само ИИшница проявляет далеко не самые лучшие черты характеров людей, полученные им, так сказать, "по наследству" от своих создателей, и/или в процессе обучения.

ИИ не имеет никаких "черт характера". Процесс обучения носит очень детерминированный характер и не включает обучения "человеческим чертам".
ИИ в принципе не может обучиться "человеческим чертам, поскольку не имеет человеческой физиологии.

А то, что некоторые специалисты уже не могут обойтись без ИИ, разве не говорит о том, что их втягивают в бесконечную конкурентную гонку?

Почему "некоторые"? Любой специалист отлично знает, что если он не будет конкурентен, он перестанет быть востребован как специалист и очень быстро перестанет быть специалистом в современном понимании.
Профессия - это способ зарабатывать деньги. Значит нужно быть востребованным.

Теперь темп - это наше всё?

Что вас в этом удивляет и почему "теперь"? Темп - это часть профессии инженера и вообще любого специалиста. Поэтому профессии нужно учиться всю жизнь.

Но ведь мир населён не только специалистами узкого профиля, о моральной стороне вопроса тоже стоит задумываться.

Мир как раз населен исключительно специалистами узкого профиля. Это основа современной экономики. В чем тут состоит "мораль/амораль" я вообще не понял.

Люди торопятся, а в таком темпе ошибки неизбежны.

Неизбежны. Поэтому современные механизмы реализации профессий имеют "защиту от ошибок". Естественно, что не 100%-ную. Но очень даже надежную. К механизмам такой защиты относятся нормативы, протоколы и кодексы законов.

[HariusHek]

То есть, ИИ вовсе не панацея, и не волшебная палочка, как трубили годами подряд.

Я не знаю кто такую чушь трубил...
Полагаю, что ее трубили какие то журналюги ради желтой сенсации.
AI в настоящий момент является мощным инструментом ЧЕЛОВЕЧЕСКОГО РАЗУМА. Автономно он используется в некоторых специфических задачах, где он вообще не имеет выхода на широкий круг людей. Это такие задачи как автопилот, поиск объектов в потоковом видео, разного рода задачи управления процессами и тому подобные задачи.

Слова "инструмент человеческого разума" для меня звучат несколько странно и неубедительно.
Как будто кто-то из фанатичных игроков на компьютере обратился с просьбой обратился с просьбой пришпандорить куда-нибудь ему третью руку - протез или трансплантант, потому что ему не хватает своих двух рук и своих 10-ти пальцев, чтоб быстро-быстро кнопочки нажимать.

[Муркиз]

Узкий специалист подобен флюсу ....

Сколько гиблых проектов я вытащил, да и сих пор продолжаю вытаскивать, потому что над ними уж очень узкие специалисты работали, даже в составе институтов.

И не умели думать " ширше", в то время как задачи требовали как раз учёта особенностей смежных знаний.

Поэтому и садились в итоге в галошу... Даже всеми конструкторским и научным коллективом. Учебники тоже часто неправильно ставят местами телегу с лошадью...

[КРАМ]

Слова "инструмент человеческого разума" для меня звучат несколько странно и неубедительно.

Объясняю.
В процессе создания любого интеллектуального продукта есть две стадии. Стадия накопления и анализа информации и стадия синтеза новой идеи.
Причем стадия накопления и анализа занимает примерно 90% (а то и больше вплоть до 100% в определенных проектах) времени и сил. При этом она выглядит как интеллектуальный труд, НА САМОМ ДЕЛЕ ИМ НЕ ЯВЛЯЯСЬ.
Так вот задача современного AI минимизировать эти самые 90%. Поэтому это ИНСТРУМЕНТ.

[КРАМ]

Узкий специалист подобен флюсу ....

В контексте обсуждения это глупое заявление.
Любой настоящий специалист является узким специалистом , потому что занимается УЗКОЙ ЗАДАЧЕЙ. И это не имеет отношения к его общей эрудиции.
По сравнению с его узкой специализацией, его эрудиция является ДИЛЕТАНТСКОЙ.
Так радиоинженер закончивший ВУЗ с красным дипломом и 45 лет занимающийся разработкой в разных областях, НА КОНКРЕТНОМ ОТРЕЗКЕ ВРЕМЕНИ является очень узким специалистом в своих темах. Но при необходимости может за очень короткий срок стать таким же узким специалистом в другой области радиотехники. Например в СВЧ антеннах. При этом через некоторое время его специализация в прошлых проектах уходит на дальний план и он теряет актуальную квалификацию прошлых проектов. Мозг не бесконечен.