я могу говорить правду
Просите, и дано будет вам; ищите, и найдёте; стучите, и отворят вам;
Александр Новиков
Все записи
текст

Опасная техника

Искусственный интеллект (ИИ) на войне. Вот пример.
 Опасная техника

Я недавно об этом говорил. И вот пример моим словам.
Сказать честно, становится страшно когда смотришь это видео. И самое неприятное, то, что я верю, что такая техника уже вполне может существовать в настоящее время. Готовы ли мы к этому? Боюсь, что не очень. Не готовы как лично, так и в масштабах всей страны. 
А неожиданность может принести нам много неприятных моментов.

1  /  6
 
 
 
 
 
 

Общество

Машины и Механизмы
Всего 36 комментариев
Открыть Свернуть Комментировать
Комментарии
  • Олег Кветковский
    14:23   /  29 ноября 2017
    развернуть
    Неожиданность?  Все же говорят, что надо ждать.  Ты телевизор смотришь?
    Беда не в том, что у нас с искусственным интеллектом плохо, беда в том, что с естественным проблемы.
    • Александр Новиков
      15:30   /  29 ноября 2017
      развернуть
      Вот ту как раз и не стыковка!!!  А вдруг ИИ станет умнее естественного? Куда бежать то будем???))))
      У меня есть подвал под домом. А ты куда???)))
      • Олег Кветковский
        15:58   /  29 ноября 2017
        развернуть
        Если ИИ станет умнее естественного, то не понятно, а зачем от него бежать? Мне почему-то всегда казалось, что чем оно умнее , тем оно гуманнее. Или ты под "умнее" имеешь ввиду что-то другое?

        • Александр Новиков
          16:03   /  29 ноября 2017
          развернуть
          Как бы не пришлось нам на это умное потом работать, как более тупым...)))
        • Станислав Романов
          16:14   /  29 ноября 2017
          развернуть
          Еще в начале 50-х Роберт Шекли написал об этом рассказ - "Страж-птица". 
          • Александр Новиков
            18:45   /  29 ноября 2017
            развернуть
            А о чем там???)
            • Станислав Романов
              20:31   /  29 ноября 2017
              развернуть
              Люди изобрели "страж-птиц" - летающие кибернетические механизмы, чтобы предотвращать убийства и насильственные преступления. Страж-птицы били убийц током, иногда и до смерти. Однако, поскольку страж-птицы были самоообучающиеся и со свободой в принятии решений, то вскоре начали толковать насилие весьма широко: не позволяли оперировать больных, ловить рыбу, жать пшеницу и даже бить мух. За нарушение карали немедленно и неотвратимо. И тогда люди не придумали ничего лучше, как создать "ястребов", которые должны были истреблять "страж-птиц". Только и ястребов сделали самообучающимися, и вскоре те сообразили, что помимо страж-птиц есть другие цели...
              А ведь один из персонажей рассказа задавался вопросом: вам не кажется, что это опасно, когда машина думает?
              • Александр Новиков
                20:59   /  29 ноября 2017
                развернуть
                Смотря что подразумевать под словом - Думать??? Мне представляется, что любой ком-р именно думает, проводя сложные расчеты по заданному алгоритму.
                Но дело не в этом. Я вот тут уже писал следующее:
                И если и будет война с участием машин оснащенных хорошим, производительным к-м, то это будет не война машин. Это будет война людей друг с другом с применением таких машин.
                Что касается самообучения! Боюсь, что нынче под словом - самообучение, применительно к машинам понимают только одно - накапливание данных и дальнейший их анализ по заранее заложенной программе. Возможно сложной программе. Но это только лишь обычная математика.
                А у человека есть Душа!!!! Процесс обучения и созидания - Творчество!!!! 
                И вот тут - камень преткновения. Пока его не обойти. И даже никто не пробует.))
                Очень сложно написать программу самообучения направленную на все стороны взаимодействия с окружающим миром. Может и можно. Но для этого надо еще научиться сразу же увеличивать ресурс своего ИИ до огромных размеров. А это уже не самообучение. Это созидание. Это творчество. 
                Что то не додумал тут  Роберт Шекли!!!))))
                • Станислав Романов
                  00:01   /  30 ноября 2017
                  развернуть
                  Расчеты по заданному алгоритму не имеют ничего общего с мышлением, это чисто механический процесс. 
                  • Александр Новиков
                    00:19   /  30 ноября 2017
                    развернуть
                    А мышление по вашему какой процесс???))))
                    • Станислав Романов
                      12:23   /  30 ноября 2017
                      развернуть
                      В моем понимании, мышление - это интеллектуальный процесс, который предпринят самостоятельно. Квазиинтеллектуальные действия в рамках заранее составленной программы - еще не мышление. Да, эти действия могут быть очень сложными, но кто их уже продумал и описал, а иначе компьютер просто не работает. Если возникает событие, которое за рамками описания, процесс останавливается, может даже случиться системный сбой. В общем, пока компьютер - раб процедуры
                      • Александр Новиков
                        14:17   /  30 ноября 2017
                        развернуть
                        А что такое - интеллектуальный процесс? Как его "потрогать руками" или хотя бы понятно описать с применением доступных и опробованных терминов?
                        Не думаете ли вы, Станислав, что сознание человека - такой же ком-р, как и тот, который стоит у вас на столе? Только гораздо более мощный и построенный на других носителях. А принцип работы абсолютно такой же! 
                        Математика!!!
                        Цифры, данные, программы... 
                        И живем мы, и принимаем решения по заранее установленным в нашей голове программам. И всё!!!! Обычные вычисления. Они же - слово Думать!
                        Или вы видите это как то по другому?
                        • Станислав Романов
                          18:04   /  30 ноября 2017
                          развернуть
                          Интеллектуальный процесс никак руками не потрогать. А описать его пытаются уже не первую тысячу лет. Однако же: "голова - предмет темный, исследованию не подлежит". Тут богатое поле для философствования.
                          Если же говорить о принципах работы: компьютерная логика - бинарная и детерминированная. Единица - ноль, есть ток - нет тока, да - нет. Никаких "может быть", неопределенность можно обозначить значением NULL, но произвести действия с неопределенностью никак. А человеческий разум гораздо более гибок (да, нет, может быть, я подумаю об этом завтра...) и способен на построение сложных абстракций. И если даже человеческий разум кем-то запрограммирован, то программист этот гораздо более высокого уровня, недостижимого для разумения. В общем, те же метафизические бездны и поиск смысла жизни.
  • Полина Агеева
    15:50   /  29 ноября 2017
    развернуть
    Полина Агеева
    Я думаю, что практически повсеместное внедрение ИИ во все сферы нашей повседневной жизни - это неизбежность. Кстати, недавно портал Glassdoor составил список востребованных в будущем, "захваченном" роботами профессий. Помимо разработчиков, будут востребованы копирайтеры для чатботов, журналисты, пишущие про искусственный интеллект, и юристы, решающие вопросы авторского права в этой области.
    Такие дела)
  • Олег Кветковский
    17:23   /  29 ноября 2017
    развернуть
    Полина, Вы не правы. Участие человека понадобиться ровно до момента изобретения ИИ. Пока все то, что называют ИИ таковым не является. 
    Один из признаков интеллекта вообще и ИИ, в частности, является способность к обучению и самообучению. Когда-нибудь машины с ИИ будут способны к самовоспроизведению и самосовершенствованию. Скрипач будет не нужен.


  • Олег Кветковский
    18:08   /  29 ноября 2017
    развернуть
    Вопрос с ИИ в философическом смысле довольно любопытен. 
    Если представить себе машину с интеллектом среднестатистического гражданина и не подверженной его стра и порокам.... Нет у этой машины ни зоологического стремления к большему куску, нет желания обладать самой грудастой самкой и т.п. Это что же будет? Не настанет ли время истины и справедливости? 
     Читаем Булгакова: ... настанет время, когда не будет власти ни кесарей, ни какой-либо иной власти. Человек перейдет в царство истины и справедливости. 
     Полную ясность в вопрос с ИИ вносит Пилат: На свете не было, нет и не будет никогда более великой и прекрасной для людей власти, чем власть императора Тиверия!
     Ох, ликвидируют нас, как тупиковую ветвь, и по делам нашим. 
    Иваныч, а подвал у тебя на сколько мест? 
    • Александр Новиков
      18:43   /  29 ноября 2017
      развернуть
      Олег Семенович! Во первых я с тобой не согласен. Ты не смотришь мои разговоры для канала ММ.))
      Я думаю, что ИИ никогда не будет. Потому как он уже есть. Это обычный компьютер. Просто интеллект у него пока еще слабовастенький...)
      А к этому, я еще уверен, что мы никогда не сможем сделать интеллект по характеристикам сильнее человеческого. Никогда!!! Потому как тогда мы станем Богами! Но... что то я не верю в нашу нынешнюю исключительность. Во всяком случае не при нашей жизни...
      И если и будет война с участием машин оснащенных хорошим, производительным к-м, то это будет не война машин. Это будет война людей друг с другом с применением таких машин.
      Что касается самообучения! Боюсь, что нынче под словом - самообучение, применительно к машинам понимают только одно - накапливание данных и дальнейший их анализ по заранее заложенной программе. Возможно сложной программе. Но это только лишь обычная математика.
      А у человека есть Душа!!!! Процесс обучения и созидания - Творчество!!!! 
      И вот тут - камень преткновения. Пока его не обойти. И даже никто не пробует.))
      • Олег Кветковский
        19:53   /  29 ноября 2017
        развернуть
        Александр Иванович, мне довелось этой темой (ИИ) заниматься профессионально, в прошлой жизни.  Пробуют его обойти, пробуют.
        Ни кто не стремиться в этой области имитировать душу, вещь малоопонимаемую даже естественным интеллектом. Решаются вполне прикладные задачи. Есть в теории ИИ такое направление, как распознованием образов. Не вдаваясь в подробности, поверь на слово, что ИИ рвёт там наши способности, как Тузик грелку. 
        Есть теория и практика разработки экспертных систем, состоящих из баз декларативных задний (данных) и базы процедуральных знаний, которые позволяют на базе декларативных  получить новые знания, ранее не существующие. Есть теория нечетких алгоритмов и т.п. Даже любимая тобой теория принятия решений. Понятно, что это только самые начала.  Самое интересное впереди. Возможно в очень отдаленном, но неизбежном. 
        ИИ это принципиально не ПК в нашем нынешнем понимании. 
        ИИ будет, зуб даю! И будет на Патриарших очень интересная история.



        • Александр Новиков
          20:46   /  29 ноября 2017
          развернуть
          Нет Олег... извини, но я с тобой не соглашусь.
          Я знал, что ты мне напишешь. Не стал все мешать в кучу. Ты в этом плане не оригинален. 
          Да... ты прав в некоторых направлениях оценки внешнего мира и взаимодействии с ним машины с ИИ ( с компьютером) уже могут опережать скорость реакции человека.  И скорее всего области такого взаимодействия будут расширяться, а возможности еще больше совершенствоваться. Я не спорю.
          Но... В этом и загвоздка. Мир, нас окружающий, очень велик и многогранен. И мы, с помощью нашего - естественного интеллекта - научились его познавать и взаимодействовать с ним во всех направлениях одновременно, достаточных, что бы выживать в нем. И при этом обьем и ресурс нашего комп-ра в миллиарды раз больше, чем самый продвинутый на сегодня ИИ. 
          А он еще должен, между прочим вместиться у нас в голове!!!
          Уверен, что если бы - ЕИ - направить только на решение одной задачи, то никакой ком-р в ближайшее время с этим тягаться даже не осмелился бы! 
          И я еще не говорю про Душу и информационно-энергетическое поле в котором мы существуем.
          Так что, прости, создать свою жизнь или ее уничтожить сможем только мы сами. Собственно этим мы сейчас и занимаемся. А машины и ИИ это только инструменты для облегчения нам взаимодействия с друг другом и внешней средой...)
  • Олег Кветковский
    21:34   /  29 ноября 2017
    развернуть
    Что же ты так озаботился картинками с дровами?
  • Александр Новиков
    21:45   /  29 ноября 2017
    развернуть
    Я переживаю не за то, что нас всех съест какой-то ИИ. 
    Я переживаю, что мы можем сами себя случайно перемочить, а потом долго причитать и строить памятники.
     Потому как это случайно может оказаться очень просто.  А мы расслабились и даже не понимаем это!)
    И кстати, там не картинки - там видео главное!!!!)
  • Олег Кветковский
    00:20   /  30 ноября 2017
    развернуть
    И что ты в итоге предлагаешь?  Не расслабляться? Все перестали расслаляться и? Делать то что?  
  • Олег Кветковский
    08:44   /  30 ноября 2017
    развернуть
    Аминь! 

Рекомендуем

OK OK OK OK OK OK OK