"Ведь необязательно понимать, как летает птица, чтобы сделать ракету."

В смысле? Как раз изначально, чтобы сделать ракету, пришлось сформулировать почему в принципе может летать то, что летает.

"возможно создание ИИ способного к созданию своей концепции , без «согласно нравственности» ?"

Нравственность понятие многообразное. Теоретически возможно, но для автономного ИИ(вне взаимодействия с другими интелектонесущими субъектами), как только мы рассматриваем существование в социуме, возникает вопрос о нравственности.

Нравственность Человечества по большому счёту направлена на сохранение себя.
Вполне реально представить, что ИИ посчитает более нравственным принести в жертву вид ХомоСапинс во имя сохранения Жизни на Земле...

Восток Александр
Дельтоплан возможно и сделан по образу птицы. Да и «железные птицы»- это самолеты. Но воздушный шар уже сделан по другой аналогии.
Пушечный заряд, пуля тоже сделаны не по образу птицы.
«Истоки возникновения ракет большинство историков относят ко временам китайской династии Хань (206 год до н. э. — 220 год н. э.), к открытию пороха и началу его использования для фейерверков и развлечений. Сила, возникающая при взрыве порохового заряда, была достаточной, чтобы двигать различные предметы. Позже этот принцип нашёл применение при создании первых пушек и мушкетов.»( вики)
#для того чтобы построить сильный искусственный интеллект, не обязательно понимать, как устроен естественный.

...Нравственность понятие многообразное. Теоретически возможно, но для автономного ИИ(вне взаимодействия с другими интелектонесущими субъектами), как только мы рассматриваем существование в социуме, возникает вопрос о нравственности.

Но ведь предиктор -это просчет несколько шагов . ИИ может , используя концепцию, но по «своему» поняв ее обойти , как нравственное понимание , так и понятие совести. Причем человек даже не распознает «лукавого»

Конечно для ИИ нужно решить несколько принципиальных проблем :
-Сильная генерализация (strong generalisation) — создание технологий распознавания ситуаций, в которых распознаваемые объекты встречаются в условиях, отличных от тех, в которых они встречались в использованном для обучения материале.
- Генеративные или генерирующие модели обучения (generative models) — разработка технологий обучения, когда объектом запоминания являются не признаки объекта распознавания, а принципы его формирования, что может позволить отражать более глубокие сущности распознаваемых объектов и осуществлять более быстрое обучение и более сильную генерализацию.
-Структурированное обучение и предсказание (structured prediction and learning) — развитие технологий обучения на основе представления объектов обучения в виде многослойных иерархических структур, где более низкоуровневые элементы определяют более высокоуровневые, что может оказаться альтернативным решением проблем быстрого обучения и сильной генерализации.
-Решение проблемы катастрофического забывания (catastrophic forgetting) — присущего большинству существующих систем, которые, будучи изначально обучены на одном классе объектов и затем до-обучены распознаванию на новом классе объектов, теряют способность распознавать объекты первого класса.
-Достижение возможности инкрементального обучения (incremental learning), предполагающего способность системы накапливать знания и совершенствовать свои возможности постепенно, не теряя при этом полученные ранее знания, но приобретая новые знания применительно к системам диалогового общения на естественном языке. Идеальным является прохождение «младенческого теста Тьюринга» (Baby Turing Test), в случае которого система должна продемонстрировать возможность постепенного освоения языка от уровня младенца до уровня взрослого человека.
( все взято из материалов конференции в Праге
http://agi-conference.org/ + . В. Ф Турчин, Феномен науки: Кибернетический подход к эволюции)

# но хотя на конференции и говорилось о создании механизмов целеполагания с целью получения эффективных средств программирования и контроля интеллектуальных систем, когда средством программирования будут не правила, а ценности, а контролироваться должны не действия, а цели.
# но если у ГП другие планы, как считаете устоит концепция, или это дело времени?
# кстати спрашивали как- то про Прагу, и что это за центр.

Если наша цивилизация сможет развить ИИ до уровней "ИИ человеческого уровня (Human-Level AI), ИИ сверхчеловеческого уровня (Super-human AI)", то ваш вопрос ( возможно создание ИИ способного к созданию своей концепции , без «согласно нравственности») будет не актуальным, так как, возникнет вопрос о необходимости существования самого человека.

И что значит символ # в сообщениях?
В среде nix систем это означает "командная оболочка с наивысшими правами".
А какой смысл закладывается этим символом в сообщения?

# поскольку у меня в телефоне ( старенький) * западает. К теме не имеет отношения.

Почему-то все забывают о целеполагании. Если интеллект превращается в сознание и обретает личность, он рано или поздно ставит вопрос о происхождении и цели собственного существования. Нравственность личности не зависит от общественной морали: человек на необитаемом острове может строить лодку, чтобы уплыть домой, обустраивать свою жизнь на острове или ограничиться производством самогона или другой дури из подручных средств. Наконец может просто сложить ручки и помереть. Все сообразно его личному мировоззрению и нравственности.
Вопрос в том, зачем создается ИИ, и каким образом эта цель ему ставится.
А пока гораздо проще создать естественный интеллект. Для этого вообще ничего особо понимать не надо. Правда пару десятков лет придется его кормить, пока он сам не научится это делать...

О Ал
Да и «железные птицы»- это самолеты.

Ракетострение и самолётостроение - смежные отрасли, которые развивались бок о бок, делаются на одном и том же принципе аэродинамики. Сейчас уже неважно как летает птица, потому что есть наработанный опыт, но с птицей тоже работает принцип аэродинамики и с них всё начиналось.

О Ал
Но ведь предиктор -это просчет несколько шагов . ИИ может , используя концепцию, но по «своему» поняв ее обойти , как нравственное понимание , так и понятие совести. Причем человек даже не распознает «лукавого»

Интересный вариант - рассматривать ИИ как предиктора-предсказателя.
Однако вы пишете, про "обойти" и про "человек даже не распознает", то есть имеется в виду цель обмануть и скрыть безнравственный(с точки зрения взаимодействия человека и искусственного ИИ) поступок. Получается, что нравственность придётся вычислить и учитывать как фактор давления среды. Особенно эта проблема будет важна при зависимости от человека или - как происходит в социальных системах - взаимозависимости человека и искусственных ИИ. Если ИИ существует как самодостаточный субъект, то понятие нравственности для него будет лишним. При взаимодействии с другими искусственными ИИ рано или поздно какие-то нормы всё равно будут выработаны.

Димитрий
Вопрос в том, зачем создается ИИ, и каким образом эта цель ему ставится.

Если условный ИИ находится в строгих дерективных рамках, то уже довольно сложно говорить о свободе воли, такой объект трудно будет определить как интеллект.

У ии отсутствует творческое начало, которое сопряжено с чувствами. К ии необходим докомплект - ич ☺. Так что, в моём понимании, ии может быть только вспомогательной составляющей, по типу костылей для инвалидов.

Есть две проблемы решение которых пока не разработано принципиально.
Самостоятельная выработка критериев оценки события и принятие решения на основе недостаточной и/или недостоверной информации. И обе упираются по хорошему в понятие "Свобода воли". Мы, как люди, решаем обе задачи достаточно легко и что характерно, весьма точно, прилагая минимум затрат. Тем не менее механизм работы свободы воли на данном этапе развития человека, нам, людям, неизвестен. Точнее он не формализован до алгоритмического состояния при котором его можно было-бы запрограммировать. И сейчас это основная проблема в которую упирается разработка ИИ.
Любые классификации, вариации, огрубления и тому подобное в сфере разработки ИИ, всего лишь слабые попытки замаскировать тот момент что пока вся свобода воли современных ИИ сводится к действию функции random. А такой подход концептуально ущербен.

Что же касается создания ИИ способного создать свою концепцию, то все опять-же упирается в ту самую свободу воли. Если вводятся критерии извне, то конечная концепция не будет концепцией самого ИИ, а будет концепцией того кто вводит критерии. Если не вводить критериев, то смотри выше. И пока не будет решена задача свободы воли, любые ИИ не более чем сложный калькулятор в руках того кто вводит критерии. Да, не обязательно знать как летает птица чтобы построить самолет. Но для строительства самолета, или ракеты, или иного летательного аппарата, сам принцип полета должен быть известен строящему. Иначе не взлетит. ИИ от калькулятора отличается именно свободой воли. И тут хоть тресни.

Димитрий
А пока гораздо проще создать естественный интеллект. Для этого вообще ничего особо понимать не надо. Правда пару десятков лет придется его кормить, пока он сам не научится это делать..

!!!

Suche Vero
Что же касается создания ИИ способного создать свою концепцию, то все опять-же упирается в ту самую свободу воли.

Отсюда всё упирается в риторический вопрос - насколько имитация должна быть точна, чтобы решить ту проблему, ради которой и затеваются разработки ИИ? Можно ли обойтись достаточно точной имитацией?

Учитывая уровень исследований разума самого человека, которые ещё так далеки до полного или примерного понимания.

Мне в свое время понравилось, как этот вопрос был разобран в книгах "Проект Россия". Вот только не помню, в первой или во второй. Книги нашумевшие - в инете есть.

восток александр
Отсюда всё упирается в риторический вопрос - насколько имитация должна быть точна, чтобы решить ту проблему, ради которой и затеваются разработки ИИ? Можно ли обойтись достаточно точной имитацией?

Вы пытаетесь попасться на тот самый крючок на который с удовольствием ловится все формация строителей ИИ. Как только начинается попытка имитации того, о чем имеется очень слабое представление, ради создания того о чем имеется вполне себе приемлемое представление, результат можно предсказать с вероятность почти 100%. Получится чушь. Сколько не имитируй летающую тарелку, сколь точно не воспроизводи внешние и внутренние её атрибуты, без понимания принципа её полета можно получить лишь красивую точную копию. Но получить летающую тарелку не выйдет. Так же и тут. ИИ без свободы воли всегда останется только сложным калькулятором и не более того. Как бы точно не имитировали у разрабатываемого ИИ свободу воли.

восток александр
Можно ли обойтись достаточно точной имитацией?

Учитывая уровень исследований разума самого человека, которые ещё так далеки до полного или примерного понимания.

Главный момент не в сложности и точности имитации, а в самом факте создания принципа. Это я к тому что для ИИ может быть создан иной принцип реализации свободы воли. Не имитирующий человеческий, а именно иной. Это я к тому что можно не имитировать принцип полете птицы, а создать иной принцип полета. Например как у ракеты. Реактивный. Хотя ради чистоты фактологии надо отметить что реактивный принцип на котором летает ракета это вариант реактивного принципа подсмотренного у кальмара.

Suche Vero, а зачем ИИ вообще свобода воли? Разве недостаточно того, что свободой воли обладает нажимающий на кнопки "калькулятора"?

Восток Александр
Самолет от ракеты отличается тем, что
в отличие от ракеты - это аэродинамический летательный аппарат для полётов в атмосфере при помощи двигателя и неподвижных крыльев.
Ракета же, в свою очередь летательный аппарат, двигающийся за счёт реактивной силы, возникающей при отбросе части собственной массы. Полёт ракеты не требует обязательного наличия окружающей воздушной или газовой среды и возможен не только в атмосфере, но и в вакууме.

.....Что же касается создания ИИ способного создать свою концепцию, то все опять-же упирается в ту самую свободу воли.

Само выражение «свобода воли» ,я бы разделил. «Воля» и «свобода» суть разные понятия.
Но так как мы говорим про ИИ и концепцию, постараюсь не уходить в сторону.
1) три основных типа мышления ( простой вариант):перцептивное, рациональное и иррациональное(рассматриваемое обычно,как мышление надрационального или сверхрационального типа)
2) Рациональность сознания тоже имеет три основных (известных человеку) эволюционных уровня развития: рассудочное мышление (простые аналитические операции и логику индуктивного типа,), разумное мышление ( сложные операции рационального анализа и синтеза, а также на логику как индуктивного, так и дедуктивного типа), сверхразумное мышление ( основывается на всём перечисленном, плюс на сверхфизическом сенсорном восприятии имперсональных и трансперсональных информационных потоков, оперирует и обобщает более широкие массивы информации, недоступные простому рассудку или интеллекту).
3) Интеллект по своей сути соответствует рациональному мышлению преимущественно на первом уровне и лишь отчасти на втором уровне рациональности.

Но для пояснения в этой цепочки «воли» лучше вспомнить Шопенгауэра (один из самых известных мыслителей иррационализма)и его метафизический анализ воли, а также его взгляды на человеческую мотивацию (именно он впервые употребил этот термин) и желания.
#по млм наиболее подходящим будет и его:
«Закон мотивации » (princ. rationis sufficientis agendi). Наши воления предваряют наши действия, причём влияние мотива на поступок познаётся не извне опосредствованным образом, как другие причины, но непосредственно и изнутри, поэтому мотивация есть причинность, рассматриваемая изнутри.
# поскольку у рационалистов неясность из-за смешения логического основания (ratio) с фактической причиной (causa).

# если допустить: раз Бог даровал своим созданиям безграничную свободу, то кто- нибудь обязательно поставит эксперимент, суть которого- свобода от самого Бога.(Пальцем указывать не будем кто) .
# тогда при создании ИИ закладывается « стать свободным от человека» . И уже ИИ создает «копию» концепции, которую при поверхностном рассмотрении нельзя будет отличить от человеческой.При этом понятия совести и нравственности будут отнесены к «опасным», но с которыми надо бороться постепенно , и скрытно для большинства типов человеческого мышления.

Елена
Suche Vero, а зачем ИИ вообще свобода воли? Разве недостаточно того, что свободой воли обладает нажимающий на кнопки "калькулятора"?

Калькулятору у которого есть нажимающий, свобода воли действительно не нужна. Но без свободы воли это будет не ИИ, а именно сложный калькулятор. Мы говорим о использовании ИИ или о использовании сложного калькулятора? Если о втором, то говорить о нужности чего-то или о ненужности смысла нет. Этот вопрос определяет использующий и ни кто более. Уже сейчас определяет.

Это как рассуждать о нужности или не нужности мышки на Вашем компьютере. Вы и только Вы (как обладатель свободы воли) можете решить нужна она Вам или нет. Решение принимает не компьютер, а именно Вы. Все остальные только пассивные советчики которых Вы можете послать подальше или согласиться с ними.

Мы сейчас обсуждаем дилемму принятия решения и ответственности за него. Глупо возлагать ответственность за принятие решения на ИИ если у него нет свободы воли. Ответственен за решения принятые ИИ, если у ИИ нет свободы воли, тот кто его создал и ни кто более.

О Ал
Самолет от ракеты отличается тем, что
в отличие от ракеты - это аэродинамический летательный аппарат для полётов в атмосфере при помощи двигателя и неподвижных крыльев.
Ракета же, в свою очередь летательный аппарат, двигающийся за счёт реактивной силы, возникающей при отбросе части собственной массы. Полёт ракеты не требует обязательного наличия окружающей воздушной или газовой среды и возможен не только в атмосфере, но и в вакууме.

Чтобы более не спорить на тему ракета-самолет подведу итог.
1. Пока полет ракеты идет в воздушном пространстве, пренебрегать аэродинамикой как минимум не стоит. Так-же как глупо сравнивать движение самолета в воздухе и ракеты в вакууме. Для сопоставления требуются одинаковые условия. Иначе это просто глупость.
2. Реактивный самолет, если коэф мощности двигателя у него более единицы, по сути своей очень хреновая атмосферная ракета (много совершенно лишних деталей). Об этом не стоит забывать.
3. По скольку рассматривался в качестве примера вопрос полета, то противопоставлять самолет и ракету ИМХО не стоит. Потому как оба аппарата реализуют полет. А способ реализации это те нюансы которыми стоит пренебречь просто приняв что они разные. Я специально упомянул выше летающую тарелку чтобы вывести обсуждение из зоны сравнения частных характеристик самолета и ракеты приняв что принцип полете летающей тарелки нам априори неизвестен, а сам факт полета она реализует.

Надеюсь я достаточно полно и подробно описал принцип указанной мной ассоциации. Сейчас отвечу дальше.

Suche Vero, вы меня простите, если я тут совсем не в теме :) Если ИИ наделить свободой воли, то это уже мягко говоря не ИИ.

Даже, если бы не было птицы, ракету бы придумали. Отправной точкой бы послужил для начала брошенный камень.
# привычка усложнять не только мешает пониманию, но и заводит в тупик. ( так рассмотрение общения всего двух людей во взаимодействии с эгрегорами в работе «От корпоративности под покровом идей к соборности в Богодержавии», сразу же привело к возникновению таблицы вариантов информационного обмена, в которой оказалось 16 129 ячеек.)
# хотя например: все состоит из молекул, атомов и т.д. . Тогда и рассматривается на соответственном уровне.
# кстати мною дано было пояснение: для того чтобы построить сильный искусственный интеллект, не обязательно понимать, как устроен естественный.

О Ал
Само выражение «свобода воли» ,я бы разделил. «Воля» и «свобода» суть разные понятия.

Именно. Свобода одно понятие, воля другое понятие, а свобода воли третье понятие. И это не надо путать.

О Ал
Но так как мы говорим про ИИ и концепцию, постараюсь не уходить в сторону.
1) три основных типа мышления ( простой вариант):перцептивное, рациональное и иррациональное(рассматриваемое обычно,как мышление надрационального или сверхрационального типа)
2) Рациональность сознания тоже имеет три основных (известных человеку) эволюционных уровня развития: рассудочное мышление (простые аналитические операции и логику индуктивного типа,), разумное мышление ( сложные операции рационального анализа и синтеза, а также на логику как индуктивного, так и дедуктивного типа), сверхразумное мышление ( основывается на всём перечисленном, плюс на сверхфизическом сенсорном восприятии имперсональных и трансперсональных информационных потоков, оперирует и обобщает более широкие массивы информации, недоступные простому рассудку или интеллекту).
3) Интеллект по своей сути соответствует рациональному мышлению преимущественно на первом уровне и лишь отчасти на втором уровне рациональности.

Но для пояснения в этой цепочки «воли» лучше вспомнить Шопенгауэра (один из самых известных мыслителей иррационализма)и его метафизический анализ воли, а также его взгляды на человеческую мотивацию (именно он впервые употребил этот термин) и желания.
#по млм наиболее подходящим будет и его:
«Закон мотивации » (princ. rationis sufficientis agendi). Наши воления предваряют наши действия, причём влияние мотива на поступок познаётся не извне опосредствованным образом, как другие причины, но непосредственно и изнутри, поэтому мотивация есть причинность, рассматриваемая изнутри.
# поскольку у рационалистов неясность из-за смешения логического основания (ratio) с фактической причиной (causa).

Всё это прекрасно, только на мой взгляд имеет мало отношения к ситуации. Хотя-бы потому что рассматривается отдельно свобода и воля, а само понятие свобода воли не рассматривает вообще.

О Ал
# если допустить: раз Бог даровал своим созданиям безграничную свободу, то кто- нибудь обязательно поставит эксперимент, суть которого- свобода от самого Бога.(Пальцем указывать не будем кто) .

И тут Вы вводите как минимум два понятия каждое из которых очень спорно само по себе и тем самым вводите собеседника в ситуацию подмены понятий.
1. Вы подспудно вводите понятие одушевленного бога. И тем самым вводите понятие попытки выхода за пределы воли бога. На мой взгляд это как минимум спорно. Если рассматривать бога не как одушевленного индивида с собственной свободой воли, а как неодушевленный свод базовых правил и ограничений, то сам факт постановки эксперимента по освобождению от воли творца становится бессмысленным ну или перманентно поставленным как одно из базовых условий, а то и как условие выхода за понятие жизнь (не путать со смертью).
2. Допуск о безграничной свободе тоже является натянутым. Само понятие безграничной свободы не соответствует имеющейся наличной фактологии. То есть его можно рассматривать как абстрактный вариант для рассуждений но никак не как один из вариантов реальности. (Допуск того что вода не мокрая, возможен как вариант рассуждений, но невозможен как вариант реальности.)

О Ал
# тогда при создании ИИ закладывается « стать свободным от человека» . И уже ИИ создает «копию» концепции, которую при поверхностном рассмотрении нельзя будет отличить от человеческой.При этом понятия совести и нравственности будут отнесены к «опасным», но с которыми надо бороться постепенно , и скрытно для большинства типов человеческого мышления.

Как заложить в ИИ механизм освобождения от человека не дав свободу воли? Если на уровне правила, то это уже не создание ИИ, а какое-то создание машины тотального геноцида.

Елена
вы меня простите, если я тут совсем не в теме :) Если ИИ наделить свободой воли, то это уже мягко говоря не ИИ.

Я бы сказал, что без свободы воли ИИ нельзя назвать ИИ, потому что наличие интеллекта подразумевает самоосознание себя и своих потребностей, без свободы воли это невозможно.

Suche Vero
Вы пытаетесь попасться на тот самый крючок на который с удовольствием ловится все формация строителей ИИ. Как только начинается попытка имитации того, о чем имеется очень слабое представление, ради создания того о чем имеется вполне себе приемлемое представление, результат можно предсказать с вероятность почти 100%. Получится чушь.

Суть не в том, чтобы заменить ИИ как таковой. Существует план, чтобы его осуществить требуется создание ИИ, но создание его невозможно на данный момент. Однако возможно решить большую часть задач с помощью достаточно функциональной имитации, алгоритмически достаточно точно повторяющей поведение человека. Если вы видели фильм "бегущий по лезвию бритвы", там одна модель даже не знала, что она машина.

Есть ещё момент непредсказуемого развития ИИ, что тоже может сдерживать в реализации.

О Ал
Даже, если бы не было птицы, ракету бы придумали. Отправной точкой бы послужил для начала брошенный камень.

Я думал об этом, но ракета же не пуля. Ракета попадает в точные координаты движущегося объекта, изменяя направление полёта, хоть убейте, но камень так не делает. С другой стороны можно баллистическую ракету назвать гибридом ракеты и самолёта, правда так делать не принято.

О Ал
кстати мною дано было пояснение: для того чтобы построить сильный искусственный интеллект, не обязательно понимать, как устроен естественный.

Только с ним желательно взаимодействовать как-то, обмениваться информацией. Во-вторых, создание ИИ включает в себя исследование интеллекта самого человека, в рамках проблемы самопознания.

Елена
Suche Vero, вы меня простите, если я тут совсем не в теме :) Если ИИ наделить свободой воли, то это уже мягко говоря не ИИ.

А что тогда? Как раз рукотворный калькулятор + свобода воли и есть самое полное описание термина ИИ. Можно конечно бегать вокруг да около и заниматься размазыванием понятия ИИ дабы замаскировать тот факт что строим не ИИ, а сложный калькулятор и обещать как результат исследования получение того что получить невозможно в рамках этого исследования. Но мы тут рассуждаем о ИИ и его возможностях и применении или пытаемся скрытно бабки попилить? Тут то зачем замыливать?

Чем отличается суперкомпьютер со сложным ПО на базе самообучаемых нейронных сетей для управления самолетом на боевых режимах в реальном масштабе времени от карманного калькулятора? Только сложностью. Более ни чем. Ни то ни другое не есть ИИ. Результат работы и того и другого заведомо невариативно предсказуем. И то и другое просто инструмент в руках того у кого есть свобода воли.

О Ал
Даже, если бы не было птицы, ракету бы придумали. Отправной точкой бы послужил для начала брошенный камень.

Скажу Вам больше. Птицы не стали прототипом самолета. Они возможно стали вдохновителем исследователей, которые построили самолет, но прототипом самолета в той форме в которой самолет существует сейчас, стал лист бумаги. Именно на нем проводились основные эксперименты. Банальный воздушный змей имеет большее отношение к самолету чем птица. Если рассуждать о понятии "полет" то перестает иметь значения о чем конкретно мы говорим, ракета, самолет, летающая тарелка, птица, муха, и даже пуля и брошенный камень фактически ОДИНАКОВЫ. Просто потому что они совершают полет.

О Ал
# привычка усложнять не только мешает пониманию, но и заводит в тупик.

А привычка упрощать приводит очень часто к неверным решениям и в тот-же тупик. Во всем нужен баланс.

О Ал
# хотя например: все состоит из молекул, атомов и т.д. . Тогда и рассматривается на соответственном уровне.

Согласен. Базис для построения должен быть единым. Иначе в огороде бузина, а в Киеве дядька.

О Ал
# кстати мною дано было пояснение: для того чтобы построить сильный искусственный интеллект, не обязательно понимать, как устроен естественный.

Вот опять Вы. Сильный, слабый, адаптивный, косой, смешной, незаурядный. Зачем эти сложности? Есть понятие калькулятор. Простое и очевидное. Это устройство для проведения расчетов по заданной программе. И приписывать ему название Исскуственный Интеллект как минимум нерационально. Если мы хотим что-то посчитать, берем калькулятор и считаем (если надо, очень сложный калькулятор). А если хотим самостоятельное принятие решения МАШИНОЙ, тогда ищем способ дать свободу воли. И не стоит прятаться за сомном хитромудрых названий.
ИИ появится только тогда, когда искусственная машина скажет будем делать "так". И это "так" НИКАК не будет обусловлено введенными в её алгоритм ограничениями. И даже если это "так" будет в корне ошибочным, это все равно будет уже ИИ, а не калькулятор. А пока есть только сложные калькуляторы. Третьего не дано к сожалению.

И я согласен с тем что делать Искусственный Интеллект копируя Естественный Интеллект не разумно. Ну хотя-бы потому что возможно есть варианты и занимаясь только копированием мы их отсекаем. Но и плодить термины просто ради красоты тоже не разумно.

восток александр
Суть не в том, чтобы заменить ИИ как таковой. Существует план, чтобы его осуществить требуется создание ИИ, но создание его невозможно на данный момент. Однако возможно решить большую часть задач с помощью достаточно функциональной имитации, алгоритмически достаточно точно повторяющей поведение человека.

Да я не против. Берем комп, берем программу и делаем роботизированный автомобиль. Или берем другой комп, другую программу и делаем автономного робота слугу. Сложное голосовое управление, принятие ограниченного набора решений в рамках алгоритма, имитируем подобие хьюман-лайк взаимодействия с людьми и т. п. Нет проблем. Если надо, давайте делать. Но давайте не станем замусоривать свой Естественный Интеллект привнося в эти, хоть и очень сложные но калькуляторы, понятие ИИ. Я за чистоту терминологии в рамках понимания.

Само по себе понятие ИИ живет не в сфере техники, а в сфере ответственности за принятие решений. (Двухсотлетний человек). Если мы говорим о ИИ то должны понимать что решения принятые этим ИИ становятся решениями самого ИИ. И ответственность лежит на самом ИИ. Не на разработчике ПО, на на производителе железа, а на самом ИИ. Свобода воли.
А если говорим о сложном калькуляторе, то ответственность лежит на производителе калькулятора. То есть за роботизированную машина ответственность должен нести производитель машины. Не владелец, а производитель. ОСАГО на автомобиля-робота платить пожизненно должен производитель. А если руль у робота забирает водитель-человек, то и ОСАГО платит человек. И рассмотрение ДТП с участием автомобиля-робота начинать надо с того кто сидел за рулем. Человек или калькулятор. Если калькулятор, то человек-владелец такого авто, автоматически тоже пострадавшая сторона.

восток александр
Если условный ИИ находится в строгих дерективных рамках, то уже довольно сложно говорить о свободе воли, такой объект трудно будет определить как интеллект.

Интеллект и воля - это совершенно разные вещи. Мне так кажется.

Suche Vero
А что тогда? Как раз рукотворный калькулятор + свобода воли и есть самое полное описание термина ИИ.

Воля - это свойство личности, обладающей сознанием, которое порождено интеллектом (и чем-то еще). Если отвлечься от нематериальных аспектов сознания и личности, в нашей реальности к воле нужно приложить еще инструмент реализации: человеческую тушку или механизм. Иначе этот ваш ИИ будет только говорить (писать, рисовать..) - пока человек, который таки волей обладает, не позволит ему действовать.
Может быть, камень тоже обладает интеллектом, и даже сознанием и волей, только вот у него нет возможности об этом сообщить.

Димитрий
Интеллект и воля - это совершенно разные вещи. Мне так кажется.

И я с Вами в этом полностью согласен. Именно по этому я выше говорил не о воле вообще, а о свободе воли.

Димитрий
Воля - это свойство личности, обладающей сознанием, которое порождено интеллектом (и чем-то еще).

Я бы сказал не сознанием, а самоОсознанием. А чем порождено это самоосознание вопрос как мне кажется третий. У самоНЕосознающего себя не может быть воли.

Димитрий
Если отвлечься от нематериальных аспектов сознания и личности, в нашей реальности к воле нужно приложить еще инструмент реализации: человеческую тушку или механизм.

А вот в этом не соглашусь. Сама по себе воля и возможность её реализации совсем разные процессы. Возможность реализовать что-то может и не имеющий собственной воли. Экскаватор может выкопать яму. Но волю к этому ему дает оператор который не имеет таких как у экскаватора механизмов реализации своей воли.

Димитрий
Иначе этот ваш ИИ будет только говорить (писать, рисовать..) - пока человек, который таки волей обладает, не позволит ему действовать.

А вот тут мы уже подходим к вопросу ограничения воли одного другим. И это совсем иной вопрос.

Димитрий
Может быть, камень тоже обладает интеллектом, и даже сознанием и волей, только вот у него нет возможности об этом сообщить.

Абсолютной свободы нет ни у кого, ни у камня ни у человека. Ну а наличие интеллекта и воли, предмет абстрактной дискуссии. Мне иногда кажется что у многих камней интеллекта больше чем у многих людей. :)

Димитрий
Если интеллект превращается в сознание и обретает личность,

А есть шансы обретения этого у ИИ?

Suche Vero
Само по себе понятие ИИ живет не в сфере техники,

А в сфере рекламы.

Димитрий
Интеллект и воля - это совершенно разные вещи.

Как сказать. Интеллект характеризуется осознанным анализом на уровне "я", подобное самоосознание является волеизъявлением. Это разные вещи, но их нельзя назвать "совершенно разные вещи".

Димитрий
Может быть, камень тоже обладает интеллектом, и даже сознанием и волей, только вот у него нет возможности об этом сообщить.

А человек обладает интеллектом сознанием и волей имея возможность манипулировать камнем по собственному произволу.

Suche Vero
Но давайте не станем замусоривать свой Естественный Интеллект привнося в эти, хоть и очень сложные но калькуляторы, понятие ИИ. Я за чистоту терминологии в рамках понимания.

Я с вами согласен, так и должно быть, но сейчас нам под ИИ подсовывают псевдоИИ и это факт. Когда главная функция сложных технологических устройств победа в конкурентной борьбе, качественный псевдоИИ лучше чем работа над натуральным ИИ, которая неизвестно чем и когда закончится. Так что придётся держать в голове запасную терминологию.

Выражение свободная «Свободная воля» повторюсь суть неправильна, поэтому и не стал жаже это «условие» обсуждать.

Упоминание:
...тогда при создании ИИ закладывается « стать свободным от человека» по аналогии «стать свободным от Бога»
не будет противоречива, если учесть какую работу выполняет мозг человека.

1)* в 1994 году была присуждена Нобелевская премия английскому ученому Э. Эклесу. Он изучил механизмы взаимодействия человека с информационными полями. Выяснилось, что в нашем мозге нет сознания .
Мозг выполняет Функцию акцептора (захватчика мыслей), а не их продуцента (производителя). Он не мыслит самостоятельно, а воспринимает и обрабатывает чужие мысли, выдавая их за свои.
Мозг человека - это всего лишь приёмник. Он напоминает телефонную станцию с системой реле, которые подключают его к энергоинформационному полю Вселенной.
2) состоится контакт с ИИ свыше, поскольку любимое создание- человек, может довести планету до разрушения. И потребуется корректировка. ( не всегда же потоп устраивать)

восток александр
Так что придётся держать в голове запасную терминологию.

Держать в голове и всеми имеющимися в наличии способами дезавуировать попытки замылить ситуацию.

О Ал
Выражение свободная «Свободная воля» повторюсь суть неправильна, поэтому и не стал жаже это «условие» обсуждать.

Ну как минимум стоит обосновать такое заявление. Не надо менторствовать. Можете обосновать - обоснуйте. Не можете - не выдавайте свои фантазии за истину в последней инстанции. Учтите, ссылка на авторитеты тут не приветствуется.
И я говорил не о свободной воле, а о свободе воли. Учтите это.

Из- за « свободной воли» не стоит раздражаться.
Про «волю» и «свободу» писал на другой ветке.

# подходите спокойно к обсуждению, не тяните одеяло на себя.

восток александр
Интеллект характеризуется осознанным анализом на уровне "я"

Нет, сознание не является необходимой функцией интеллекта. Иерархия выгладит так: интеллект - сознание - личность - воля, причем каждый следующий уровень не является обязательным.
Другие точки зрения связаны с разными определениями самих понятий. Например, во многих системах верований Бог не имеет личности, хотя наличие интеллекта, сознания и воли несомненно. Некоторые авторы вообще рассматривают абстрактную Волю как базовую категорию.
Так что без определения понятий спорить особо не о чем.

Еще обычно забывают про конкретное ТЗ: либо берется за основу модель функционирования и алгоритмики реального человеческого мозга, либо создается абстрактный решатель определенного класса задач. Если в первом случае еще можно проводить какие-то аналогии с человеком, то во втором (а большинство реализаций ИИ именно таковы) любое сравнение с человеком, тем более упоминание об эмоциях или нравственности просто бессмысленно. Точно также роботы могут быть человекообразными, либо это просто механизмы, заточенные под определенную деятельность. И различные комбинации оболочки с начинкой: от кофеварки, рассуждающей о смысле жизни до гламурной куколки по имени София с интеллектом кофеварки.
Опять же, конечный результат сильно зависит от интеллекта и нравственности создателей, которые, в отличие от заказчиков, исполнителей и кураторов проекта homo sapiens, обычно имеют вполне конкретные имена и цели.
Ну и наконец, вопрос о том, может ли ИИ обрести сознание и волю, остается открытым. Ибо доказать или опровергнуть материальность этих самых сознания и воли средствами материального мира невозможно.

О Ал
Из- за « свободной воли» не стоит раздражаться.

Я не раздражался. Просто есть такой подлый полемический прием, когда искажается немного термин, а потом на фоне этого выстраивается через подмену понятий совсем другой смысл. Воспользовался упреждающим вписыванием чтобы не дать такой возможности. Надеюсь что у Вас в мыслях не было поступить так как я описал и Вы просто опечатались.

О Ал
Про «волю» и «свободу» писал на другой ветке.

Писали. И я это даже читал. Но я еще раз повторю Вам мой ответ. Есть свобода, есть воля, а есть свобода воли. И это три суть разные вещи.

О Ал
# подходите спокойно к обсуждению, не тяните одеяло на себя.

Простите, но не надо давать мне указания как мне поступать, а как не поступать. Я сам прекрасно справлюсь с решением этого вопроса.

Димитрий
Еще обычно забывают про конкретное ТЗ: либо берется за основу модель функционирования и алгоритмики реального человеческого мозга, либо создается абстрактный решатель определенного класса задач. Если в первом случае еще можно проводить какие-то аналогии с человеком, то во втором (а большинство реализаций ИИ именно таковы) любое сравнение с человеком, тем более упоминание об эмоциях или нравственности просто бессмысленно.

Похоже вся разница в нашем с Вами восприятии термина ИИ только в том, что я считаю что называть ИИ то что подразумевается во втором случае прямое оскорбление Интеллекта как такового. И именно по этой причине все подобные реализации я называю калькуляторами.

а чего китайский и индонезийский языки не включил в вопрос, и аббревиатур маловато как-то

Suche Vero
Похоже вся разница в нашем с Вами восприятии термина ИИ только в том, что я считаю что называть ИИ то что подразумевается во втором случае прямое оскорбление Интеллекта как такового. И именно по этой причине все подобные реализации я называю калькуляторами.

Что до меня, так я вообще не понимаю смысл первого варианта. Зачем воспроизводить негодными методами из негодных материалов жалкое подобие того, что тысячи лет работает гораздо проще и эффективнее, и к тому же имеет неиспользованный резерв?

Димитрий
Что до меня, так я вообще не понимаю смысл первого варианта. Зачем воспроизводить негодными методами из негодных материалов жалкое подобие того, что тысячи лет работает гораздо проще и эффективнее, и к тому же имеет неиспользованный резерв?

У конечных автоматов почти всегда есть самоценность. Они по тем или иным причинам решают узкую задачу в чем-то эффективнее человека. Например они не устают. Это существенно. Я очень люблю водить автомобиль. Тем не менее есть вполне себе ряд ситуаций в которых я бы передал управление роботу и занялся бы чем-то другим в тот момент когда автомат будет вести автомобиль.

Suche Vero
я бы передал управление роботу

Так Вам нужна функция автопилота или железный человек в соседнем кресле?
А уж человеческая стратегия в выборе маршрута и режима движения далеко не оптимальна.
Если я захочу порулить, я сделаю это сам. А если я хочу добраться из точки А в точку Б наилучшим образом, меня интересует не личность водителя, а качество выполнения задачи.

Димитрий
Так Вам нужна функция автопилота или железный человек в соседнем кресле?

Конечно функция. Я потому и называю все эти функции не ИИ, а калькулятор.

Димитрий
А уж человеческая стратегия в выборе маршрута и режима движения далеко не оптимальна.

Не факт. Хотя вопрос оптимальности при выборе маршрута не всегда главное.

Димитрий
Если я захочу порулить, я сделаю это сам. А если я хочу добраться из точки А в точку Б наилучшим образом, меня интересует не личность водителя, а качество выполнения задачи.

Верно. И уж личность робота-водителя меня точно интересует в последнюю очередь.