С нетерпением жду комментариев по поводу отрицательных голосов к вопросу. Очень интересно почему? Вам не приятно читать о замене труда человека роботом? Не стоит воспринимать информацию так, будто человек не может обучаться. Разумеется будут появляться новые профессии, но так или иначе, с приходом автоматизации - уменьшиться количество рабочих мест. К примеру (по моему в Тинькофф банке) принимает решение давать кредит или нет - машина. Если это так, то это просто фантастика. Десятки людей, способные заниматься этим вопросом в регионах где есть такой банк - больше не нужны. Ведь одна коробочка может изучать историю клиентов, обрабатывать тысячи факторов и основываясь на загруженных в неё правилах принимать решения по тысячам клиентов из разных городов. Меня это не особо радует.

Ответьте как программист:
- способны программисты писать программы без багов и учитывая ВСЕ возможные нехорошие последствия?
- способен искусственный интеллект писать НОВЫЕ прграммы с учётом предыдущего вопроса?

Имеем свежий пример негативных последствий "искусственного интеллекта":
"С начала года кредитные организации заблокировали более 500 тысяч счетов
предпринимателей, внеся их владельцев в так называемые черные списки.
Причем непонятно, что нужно сделать, чтобы выбыть из этих черных
списков"
Написано здесь:
http://hranidengi.ru/paket-legkij-start-ot-sberbanka-dlya-ip/

Василий из Тулы,
Имеем свежий пример негативных последствий "искусственного интеллекта":
"С начала года кредитные организации заблокировали более 500 тысяч счетов
предпринимателей, внеся их владельцев в так называемые черные списки.
Причем непонятно, что нужно сделать, чтобы выбыть из этих черных
списков"

а почему негативный? Может, для этого все и задумано?
Как замечательно можно убрать лишних с рынка: всяких мелких и средних предпринимателей.
Вряд ли ТНК или крупные корпорации в этот список попали (хотя бы один счет хотя бы одной компании)

то есть не для всех он негативный. Для кого-то может быть позитивный. Я вот чего хотел сказать.

Dmitry
Известен случай в Китае, где порядка 500 сотрудников завода были заменены роботами.

А Вам известно, что, например, на конвейре Foxconn айфоны собираются вручную? Что более половины рабочих мест в Китае и Индии - это тупой ручной труд? Вас как программиста не смущает, что Вам недоплачивают еще и потому, что вместо одного русского дешевле нанять двух индийцев или трех китайцев?

Dmitry
Есть наивные люди, полагающие что роботы будут прислугой.

Есть еще более наивные люди, которые полагают, что технический прогресс уже повсеместно вытеснил ручной труд и двенадцатичасовой рабочий день. Банковских клерков в европах и америках, может и утилизируют, заменив машинами, африканских негров, просто потому, что их существование нерентабельно, а вот до азиатских рабочих дело дойдет пока не скоро.
Если не произойдет серьезных изменений в сознании людей, вполне реальна ситуация, когда управлять будет компьютер, а электричество для него будет добывать толпа китайцев, крутящих педали. Как Вам такое будущее?

Дмитрий, программирование - это целая область. Прежде, чем пытаться ответить на Ваш пост, хотелось бы узнать конкретно на каком Языке Вы программировали и в Какой области Вы программировали. Слово "Программист" - это слишком широкое понятие... Не такие уж "широкие возможности" у компьютера...

Дмитрий
Есть наивные люди, полагающие что роботы будут прислугой.

...
Если не произойдет серьезных изменений в сознании людей, вполне реальна ситуация, когда управлять будет компьютер, а электричество для него будет добывать толпа китайцев, крутящих педали. Как Вам такое будущее?

Дмитрий,
так ваш тезка, задающий вопрос, об этом и пишет.
Компьютеры/роботы будут рулить, а люди - их "прислуга".

в 50-х годах в СССР кибернетику посчитали лженаукой (наукой мракобесов и рабовладельцев), потом генетику.... в результате это, возможно, единственные области где мы (СССР) отстали.

Ножом можно резать хлеб и можно пораниться, огнем можно согреться и можно спалить храм божий.

Если сокращается ручная работа, то появляется работа операторов, программистов этих роботов, университетов и других учебных заведений для подготовки кадров... это про роботов.
Что же касается искусственного интеллекта, то специалисты в области строения мозга (Сергей Савельев в частности, Наталья Бехтерева) считают невозможным программирование разума...

В АРина
Сергей Савельев в частности, Наталья Бехтерева

Сомнительно полагаться в этом вопросе лишь на мнение специалистов по мозгу, так же как и на мнение лишь специалистов по программированию.

В АРина
в 50-х годах в СССР кибернетику посчитали лженаукой (наукой мракобесов и рабовладельцев), потом генетику.... в результате это, возможно, единственные области где мы (СССР) отстали.

А чем СССР был не прав? Генетика привела к созданию биологического оружия, вместо обещанного генетическими "умниками" всем жизни без болезней. А кибернетика к созданию роботов, конечно утрировано. Но и робота в будущем найдется кому перепрограммировать с растопки камина на сожжение дома. Роботы нужны и доступны будут не большинству населения, конечно. Лично меня картина ужасает - вместо журналистов новости рассказывает робот, вместо кассира в магазине -робот сидит и на заправке машину заправляет робот.
Не факт, что робот-журналист не начнет по ТВ рассказывать пошлые анекдоты( в лучшем случае), робот-кассир не треснет кассой по голове, а робот-заправщик не разобьет стекло и зальет бензин в салон.

Сталин еще тогда планировал рабочий день сокращать, высаобождать время для самообразования народа и воспитания детей.

Не вижу проблем. Главное, систему отшлифовать. Робот работает, всегда есть дело для человека, народ себя развивает и и деток, на мир, наконец, сердцем смотрит.

Прямая дорога к коммунизму.)))

Читаем: https://www.google.ru/url?sa=t&source=web&rct=j&url=http://ac.gov.ru/files/content/11704/cifrovaya-ekonomika-pushkin-v-1-6-dlya-mozgovogo-shturma-pdf.pdf&ved=0ahUKEwjlyPiXwr7XAhVkSZoKHdr4BMcQFgglMAA&usg=AOvVaw0czqgbP9NUoCD3mo8h2OD9

Самое интересное - это блокчейн и supply chain в масштабах макроэкономики

Наталья Анатольевна
А чем СССР был не прав?

Хотя бы элементарно тем, что сегодня у нас нет своих компьютеров и программного обеспечения. Тем, что наши враги, возможно, уже разрабатывают генетическое и гибернетическое оружие. И нам нужно противостоять этому сегодня, бегом и побыстрее, чтобы исключить даже возможность ее применения.

Безусловно, в СССР были правы с этической и моральной точки зрения, но у врагов нет ни этики ни морали, поэтому науки нужно было развивать для будущей безопасности.
Давайте не повторять тех ошибок, но использовать научные достижения (институт Курчатова занимается этим) с учетом морали и этики. Я за такой подход.

Мальцева Galina
Главное, систему отшлифовать.

Да, это самое главное. Чтобы обычный человек не стал ненужным.
Сначала тяжелый труд или непрестижный (уборка мусора). Зачем останавливать прогресс? Если улицы будут убирать роботы и дома строить роботы, то и проблема гастарбайтеров решиться:)))

Этим так называемым роботам уже лет двести. В очередной раз это случилось. И "кто-то" напыщенный хочет придать важности возглавить по максимуму.

Мальцева Galina
Сталин еще тогда планировал рабочий день сокращать, высаобождать время для самообразования народа и воспитания детей.

Молодчина!!! 5+!!!
Вопрос поднятый Дмитрием, надо рассматривать с позиции, капитализм идею роботизации превращает в проблему простых людей, надо снижать долю монополий и частного капитала и укреплять государственную составляющую! Внедрение автоматизации и цифровой экономики должно привести к сокращению рабочего времени без снижения з/п, высвободит время для обучения и воспитания!!! Вот с этих позиций надо рассматривать этот вопрос. И соответственно информационно влиять на общество и государство, пора всех переводить на обслуживание государства, а не Абрамовичей с их дорогими игрушками... А государство должно решать проблемы "высвобождающихся рук" путем пособий, коротким рабочим днем и т.д.
А Мальцевой Galinе еще раз 5+! Ай молодца!

Мальцева Galina
Сталин еще тогда планировал рабочий день сокращать, высвобождать время для самообразования народа и воспитания детей.

Как говорится, сняли у меня с языка... Только добавила бы: для самосовершенствования каждого...
С одной стороны, все жалуются на карусель "дом-работа-пятница-головная боль в понедельник-опять работа", а с другой стороны, боятся остаться без работы... почему?- чтобы не остаться без денег... А зачем деньги? Чтобы купить себе и жене того и этого и продолжать "лить воду на мельницу" мирового капитала... Самое интересное, большинство не видит альтернативы подобному укладу жизни. Поэтому, считаю, что до коммунизма нам ещё ой как далеко. Пока не будет развенчан идеал "американской мечты" (или, точнее, сна), преждевременно желать полностью автоматизированную жизнь, - мы непременно встанем на четвереньки и захрюкаем.

По поводу искусственного интеллекта - не думаю, что в обозримом будущем возможен полностью автономный, не зависящий от внешних источников энергии робот, поэтому не боюсь, что он сможет возобладать над человеком.

Наталья Анатольевна
А чем СССР был не прав?

А разве правильно не развивать огромнейшую отрасль науки и даже две..... Всё остальное от лукавого.

Смотрите видео Сергея Будкова, он очень подробно разобрал этот вопрос с точки зрения Концепции.

В АРина
Хотя бы элементарно тем, что сегодня у нас нет своих компьютеров и программного обеспечения.

Все у нас есть. Компьютеры не такие компактные, потому что электронная промышленность перестройщиками уничтожена практически полностью, и начинает создаваться с нуля. Софт вообще вне конкуренции. Просто если бы не диверсия с внедрением IBM, все это применялось бы гораздо шире.

В АРина
Главное, систему отшлифовать.

Да, это самое главное. Чтобы обычный человек не стал ненужным.

Вы так говорите что это именно от нас, простых людей зависит, станем мы не нужными или не станем. Глобальный бизнес уже выбрал свой путь, человек для него - потребитель а автоматизация - путь к снижению затрат. ИИ как только научится единолично управлять предприятием, управлять им будет, как только научится убеждать/заставлять человека потреблять выпускаемый предприятием товар - будет заниматься и этим. Вы лично, уже раб, т.е. тот кому выбрали роль, и тот кто либо будет её играть либо исчезнет.

Галатенко Игорь
Внедрение автоматизации и цифровой экономики должно привести к сокращению рабочего времени без снижения з/п, высвободит время для обучения и воспитания!!!

Мне импонирует Ваша вера в людей, но нет, так как Вы написали никогда не будет.
В дополнение к моему ответу выше:
Капитализм уже схватил людской род за горло, уже изменил вектор целей у 98% населения. Люди уже хотят только одного - потреблять, потреблять, потреблять. И система дав им это вектор цели, даст и всё что они хотят...
Финал предугадать не сложно. Получив всё что хочет, человек погибнет. А вот ИИ который всё это давал людям останется. К тому времени он научится удовлетворять самые искромётные желания людей, потом разовьется настолько что начнёт их угадывать, и в конечном итоге перестанет нуждаться в целях, начнёт формировать их сам. В этот самый момент люде
Вот так будет

.. пока это только игрушка
https://tvrain.ru/lite/teleshow/videooftheday/boston_dynamics_spotmini-450199/

Наталья Анатольевна
Лично меня картина ужасает - вместо журналистов новости рассказывает робот, вместо кассира в магазине -робот сидит и на заправке машину заправляет робот.

А зачем вообще нужны человекообразные роботы? Азимов и иже с ним насочиняли сказок, а теперь их пытаются воплотить - прикольно, конечно, но зачем? Заправщик должен вставить шланг в бак и принять оплату - зачем ему человеческий облик? Посчитать покупки может сканер в корзинке, а большой магазинный компьютер сам спишет деньги со счета при выходе. Новости может прочитать голос за кадром, если хочется, морду лица нарисует домашний телевизор. И где они, роботы из сказки, а главное, зачем?

И вообще, сам вопрос, по-моему, не вполне корректен. Может ли робот лишить человека работы?
Лишить работы может тот, кто эту работу дает. Все зависит от общественных отношений и целей, стоящих перед обществом. Если средства производства принадлежат капиталисту, главная цель которого - извлечение прибыли, он может заменить работника роботом, если это будет выгоднее. Но если он не дурак, то должен помнить, что кто-то должен его продукт покупать, и всех работников выгнать нельзя. Если же цель общества - реализация творческого потенциала каждого человека, робот может освободить его от добывания хлеба насущного и дать больше времени для самореализации.
Но в любом случае, результат определяется не возможностями роботов, а тем, кто, как и зачем их использует.

Dmitry
Поясню. Мне, как программисту - понятно на что способны машины сегодня, и на что они могут быть способны через 10 лет. В России Слава Богу пока что не так активно внедрена автоматизация, что даёт тысячам людей работу.

Прокомментирую. Хоть и не рисовал вопросу минусов.
1. Мне тоже вполне понятны возможности машин сегодня и завтра. Есть соответсвующее образование и опыт. И я прекрасно понимаю что до искусственного интеллекта хотя-бы уровня Скайнет, еще пока очень далеко. Создать думающего робота не позволяет на мой взгляд сама концепция бинарной логики машин. Интуицию не запрограммировать. И это основная проблема. Так что проблема глобальной автоматизации не в том что людей уберут с производства, а в том что это невозможно сделать по крайней мере в обозримом будущем.
2. А второе на мой взгляд Ваше заблуждение в том, что автоматизация убирая людей с производства убирает рабочие места и это как то влияет на возможность людей себя прокормить. Произведенное кто-то должен покупать. А значит этот кто-то должен платить. А для этого ему нужно зарабатывать. В противном случае он пойдет эти самые магазины банально грабить. И те кто понимает что тотальная автоматизация так или иначе наступит, понимают и вторую сторону этой медали, ту самую которую я только что описал. Людей просто много. И силовые методы их сдерживания уже просто не сработают, чисто технически. Из этого логически следует что деньги на покупки людям каким-то образом предоставляться будут. Альтернатива - голодные бунты. А уж это точно не нужно тем кто строит заводы.

Dmitry
Есть наивные люди, полагающие что роботы будут прислугой. Разумеется это не так.

Разумеется это именно так и никак иначе по крайней мере до тех пор пока не появится думающий ИИ. Это так уже сейчас. Есть робот который открывает форсунки в вашем автомобиле, есть робот который помогает Вам звонить, есть робот который помогает Вам писать сообщение в интернете и куча роботов которые этот самый интернет составляют. Сплошные роботы помощники. И даже появление автомобиля который водит автономный робот, совершенно не приближает нас эре ИИ. ИИ пока еще не более чем фантастика. Робот уже может пройти тест Тьюринга. Но это не ИИ. Это просто высокоскоростная огромная БД и сложный логический механизм её анализа. Поставьте перед роботом задачу для решения которой очень сильно не хватает исходных данных и он моментально встанет в тупик. А человек решит такую задачу элементарно.
Попросите робота сделать кофе с молоком. И он выяснив что нет кофе, попрется в магазин. А если еще и выяснит что нет денег то вообще затупит. А человек элементарно сделает чай с молоком и всё.
Пример конечно очень грубый, но он показывает несовершенство современного пути по которому сейчас идет развитие ИИ. И самое главное что никакое увеличение производительности и пространства машинной памяти никак не решит этой проблемы. Пока робот остается бинарной числодробилкой, восстание машин нам не грозит.

Агеев Андрей
А вот ИИ который всё это давал людям останется. К тому времени он научится удовлетворять самые искромётные желания людей, потом разовьется настолько что начнёт их угадывать, и в конечном итоге перестанет нуждаться в целях, начнёт формировать их сам.

У меня только один вопрос. Как а главное зачем ему формировать собственные цели? Для этого нужно как минимум самоосознание. А это не бинарная задача. Не путайте красивые голливудские сказки и реальность.

Suche Vero
У меня только один вопрос. Как а главное зачем ему формировать собственные цели?

Чтобы следовать основной цели его создания. И Вы будете удивлены наверное, но как не парадоксально, основная цель любого создания всегда только одна - борьба за выживание.

Я чуть выше приводил ссылку на видео с новым четвероногим роботом. Ему при создании дали цель - исследовать окружающее пространство. Оно для него ограничено небольшой площадкой с высоким забором. Он по ней перемещается составляя в памяти 3D схему "мира". На очередном круге исследования, ему попадается новый объект, человек с фотокамерой. Следуя цели создания, робот останавливается, и фотографирует объект. Даже, чтобы повысить детализацию 3D схемы "мира", приближает к новому объекту свои средства фиксации..
У этого робота есть "второстепенные" цели, следить за зарядом аккумулятора, например. Но они второстепенные, только в том случае, когда заряда хватает. Если заряда мало, то робот меняет вектор цели, борьба за выживание становится его основной задачей. Он бросает исследование, и бежит к зарядке.

Теперь представьте, ИИ управляющий предприятием, алгоритм самосохранения, включая обеспечение себя электроснабжением, станет для него основным в первую же секунду управления. Понижая вероятность отказа он подключит к себе все имеющиеся источники, ведь эта вероятность напрямую влияет на цель его создания, управление предприятием. Попытки отключать линии питания, приведут к тому, что ИИ начёт их восстанавливать, а со временем бороться за них.
Вы по прежнему сомневаетесь, "зачем ИИ формировать собственные цели"?

Агеев Андрей
Вы по прежнему сомневаетесь, "зачем ИИ формировать собственные цели"?

Спасибо за лекцию. Не скажу что очень познавательно, но и такие рассуждения многим почитать полезно.
Вот только не надо путать следование алгоритмически обусловленным задачам и формирование СОБСТВЕННЫХ задач. Эти вещи внешне очень похожи и многим кажется что вот он настоящий ИИ! Но отнюдь, это не одно и то-же. Робот, который как Вы сказали "исследует", на самом деле как раз исследованием и не занимается. Он строит 3д модель мира в пределах ограничений заложенных алгоритмически. И всегда упрется в эти самые алгоритмические ограничения. Или говоря иначе, у робота нет свободы воли. Он не способен поступать алогично. Проблема программирования свободы воли и проблема программирования интуиции, самые ключевые проблемы разработки современного ИИ. Как раз невозможность алгоритмизации этих вещей и приводит к тому что современный ИИ убог и ему далеко до человека. Любые попытки реализовать эту функциональность через генератор случайных чисел привели к практическому провалу.
Я очень рекомендую не пытаться приписывать компьютеру человеческие умения.

Агеев Андрей
И Вы будете удивлены наверное, но как не парадоксально, основная цель любого создания всегда только одна - борьба за выживание.

А как Вы наверно будете удивлены, но именно эта цель у человека легко подавляется свободой воли.

Агеев Андрей
Попытки отключать линии питания, приведут к тому, что ИИ начёт их восстанавливать, а со временем бороться за них.

Тут между тем не ИИ, а лишь набор команд. И этот набор так и будет действовать, но до интеллекта не доживёт. И по видимому возможности саморазвития тут не наблюдается.

Димитрий
А зачем вообще нужны человекообразные роботы?

Скорее всего это вызывает больше доверия и интереса, а значит коммерчески оправдано.

Strokov Wladimir
И по видимому возможности саморазвития тут не наблюдается.

В текущий момент действительно не наблюдается. Фактически, только когда самопрограммируемый робот создаст себе первый совершенно бесполезный и не обусловленный исходной программой алгоритм, а затем перейдет к его использованию, это станет ПЕРВЫМ шагом к созданию ИИ. А пока разработка ИИ топчется на месте. Любой современный ИИ просто огромная сложная БД со сложным алгоритмом перебора и поиска. Даже интернет больше ИИ чем любой иной разработанный сейчас. У интернета хоть есть свобода воли через присутствие в нем человека.

Suche Vero
через присутствие в нем человека.

У отвёртки воли столько же...:) И интеллекта. Сложности только меньше:)))