The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Компания Avast открыла исходные тексты декомпилятора машинно..., opennews (??), 15-Дек-17, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


95. "Компания Avast открыла исходные тексты декомпилятора машинно..."  +/
Сообщение от Ю.Т. (?), 18-Дек-17, 08:29 

> сделать, нейросети не хватит, надо полный ИИ. И он наверное сможет
> разреверсить не только какую-то программу. Например, разобрать твой генотип до винтика.
> Представляешь какие дальше возможности?

Успокойтесь, пресловутый иск. разум, который всех схарчит, невозможен. Возможны лишь очень быстрые реплики (повторения) отдельных аспектов человеческого мышления.

Что ж касается генотипа, то бояться нужно скорее того, что начнут копаться (копаются уже!), НЕ разобравшись до винтика.

Ответить | Правка | Наверх | Cообщить модератору

97. "Компания Avast открыла исходные тексты декомпилятора машинно..."  +/
Сообщение от Аноним (-), 18-Дек-17, 13:06 
> Успокойтесь, пресловутый иск. разум, который всех схарчит, невозможен.

Какие законы природы это запрещают? И даже несложно придумать как выйти на уровень человека одним махом. Mind upload называется. Вопрос достаточности уровня технологий.

> Возможны лишь очень быстрые реплики (повторения) отдельных аспектов человеческого мышления.

Откуда весь этот треп следует?

> Что ж касается генотипа, то бояться нужно скорее того, что начнут копаться
> (копаются уже!), НЕ разобравшись до винтика.

Винтики там как раз простые. Сложны их комбинации и понимание того что именно они кодируют в конкретном месте цепочки.

Ответить | Правка | Наверх | Cообщить модератору

99. "Компания Avast открыла исходные тексты декомпилятора машинно..."  –1 +/
Сообщение от Ю.Т. (?), 18-Дек-17, 13:12 
>> Успокойтесь, пресловутый иск. разум, который всех схарчит, невозможен.
> Какие законы природы это запрещают? И даже несложно придумать как выйти на
> уровень человека одним махом. Mind upload называется. Вопрос достаточности уровня технологий.
>> Возможны лишь очень быстрые реплики (повторения) отдельных аспектов человеческого мышления.
> Откуда весь этот треп следует?

Трёп это у вас, в духе технологий из "Тайны двух океанов". Процитированные же выводы следуют из известных результатов работы мировой кибернетики. Одно из мест, где можно ознакомиться: Winograd , Flores, книга 1985 года издания.

>> Что ж касается генотипа, то бояться нужно скорее того, что начнут копаться
>> (копаются уже!), НЕ разобравшись до винтика.
> Винтики там как раз простые. Сложны их комбинации и понимание того что
> именно они кодируют в конкретном месте цепочки.

Да, всего-то и осталось. Г...о вопрос, как говорится.

Ответить | Правка | Наверх | Cообщить модератору

105. "Компания Avast открыла исходные тексты декомпилятора машинно..."  –3 +/
Сообщение от Аноним (-), 18-Дек-17, 14:32 
> Трёп это у вас, в духе технологий из "Тайны двух океанов".

Я это не читал/смотрел и не знаю что это. Эти соображения вытекают из простого здравого смысла и анализа законов физики. Если какой-то фантаст допер до этого - поздравляю его. Но он такой не один. Эта концепция достаточно известна в научном мире, ее возможность неплохо обоснована/предсказана.

> Процитированные же выводы следуют из известных результатов работы мировой кибернетики. Одно из
> мест, где можно ознакомиться: Winograd , Flores, книга 1985 года издания.

1985? Кибернетика? Еще учебник ньютоновской механики подгоните, чтоли. И к черту релятивизм, он какой-то сложный. Кстати, упомянутое не кибернетика в чистом виде. Есть другие науки, занимающиеся изучением работы мозга, сознания, всяких более частных вещей, например, моделированием зрения/слуха и проч. Туда же и всю возню с нейросетями, какие там к черту кибернетики?

> Да, всего-то и осталось. Г...о вопрос, как говорится.

Собственно, расковыривают понемногу. С появлением компьютеров этот процесс здорово втопил. Для хорошего тыкания палочкой - механизмы манипуляции генами пока грубы и примитивны, но это как раз вопрос уровня технологий. В какой-то момент случится примерно как с компьютерами: когда начальный трудный этап преодолели, новые компьютеры стали использовать чтобы разработать еще более крутые программы и компьютеры. И процесс ушел по экспоненте. И у генетиков такое же случится. Выведут например модифицированные микроорганизмы, которые микроманипуляции будут шелкать на раз-два и процесс втопит. Ну а что, в природе примеров валом. Вирус вообще по жизни своего носителя обманывает на синтез того что он хотел. Готовая генно-хакерская технология как есть.

Ответить | Правка | Наверх | Cообщить модератору

108. "Компания Avast открыла исходные тексты декомпилятора машинно..."  –1 +/
Сообщение от Ю.Т. (?), 18-Дек-17, 17:43 
>> Трёп это у вас, в духе технологий из "Тайны двух океанов".
> Я это не читал/смотрел и не знаю что это. Эти соображения вытекают
> из простого здравого смысла и анализа законов физики. Если какой-то фантаст

Не надо на все проблемы с лаптем и шапкой. "Простой здравый смысл" (а он не прост) и тем более "анализ законов физики" (Гёдель II, что ли?) здесь ни при чём.

> допер до этого - поздравляю его. Но он такой не один.
> Эта концепция достаточно известна в научном мире, ее возможность неплохо обоснована/предсказана.
>> Процитированные же выводы следуют из известных результатов работы мировой кибернетики. Одно из
>> мест, где можно ознакомиться: Winograd , Flores, книга 1985 года издания.
> 1985? Кибернетика? Еще учебник ньютоновской механики подгоните, чтоли. И к черту релятивизм,

Это что, пробежка по первой странице поисковика? Релятивизм ни при чём. "Старость" 85-го года к кибернетике -- глупость.

> он какой-то сложный. Кстати, упомянутое не кибернетика в чистом виде. Есть

"Чистой кибернетики" не существует.

...
> валом. Вирус вообще по жизни своего носителя обманывает на синтез того
> что он хотел. Готовая генно-хакерская технология как есть.

Ну я ж и говорю, г...о вопрос.

Ответить | Правка | Наверх | Cообщить модератору

115. "Компания Avast открыла исходные тексты декомпилятора машинно..."  +/
Сообщение от Аноним (-), 23-Дек-17, 21:21 
> Не надо на все проблемы с лаптем и шапкой. "Простой здравый смысл"
> (а он не прост) и тем более "анализ законов физики" (Гёдель
> II, что ли?) здесь ни при чём.

Есть простое соображение: если нечто существует, это возможно повторить. Попробуй это оспорить. Но да, вопрос затрат и уровня технологий. Можно блин свою звезду собрать. И планеты вокруг. Но потребуется море энергии, вещества, времени и очень высокий уровень технологий.

> Это что, пробежка по первой странице поисковика? Релятивизм ни при чём. "Старость"
> 85-го года к кибернетике -- глупость.

Глупость - это неспособность понять что нейросети вообще передрали из живого мира, посмотрев как работают естественные структуры, делающие нетривиальные для компьютеров действия легко и непринужденно.

> "Чистой кибернетики" не существует.

Спасибо, Кэп. А ИИ вообще к кибернетике относится достаточно условно и на самом деле находится где-то на стыке множества наук.

> Ну я ж и говорю, г...о вопрос.

Г...о, не г...о ... как ты относишься к осмысленной компоновке вирусов? Можно сделать так что вирус будет обладать теми или иными желаемыми свойствами. Недавно кстати с какими-то бактериями такой номер провернули, попутно используя их как что-то типа молекулярного сборщика. Да, знаешь, будущее может быть немного жутковатым. Смотреть в бесконечность - вообще не для слабонервных.

Ответить | Правка | Наверх | Cообщить модератору

117. "Компания Avast открыла исходные тексты декомпилятора машинно..."  +/
Сообщение от Ю.Т. (?), 23-Дек-17, 22:08 
> Есть простое соображение: если нечто существует, это возможно повторить. Попробуй это оспорить.

Ну если так ставить вопрос, то и кирпич сам по себе может взлететь. СтОит лишь понаблюдать его ок. 10^30 лет.

С другой стороны, система сама себя сама из себя познать не способна. Вот потому-то, в принципе, весь дискурс про иск. разум, который всех поработит, и бессмысленен. И сингулярности никакой не будет.

>> Это что, пробежка по первой странице поисковика? Релятивизм ни при чём. "Старость"
>> 85-го года к кибернетике -- глупость.
> Глупость - это неспособность понять что нейросети вообще передрали из живого мира,
> посмотрев как работают естественные структуры, делающие нетривиальные для компьютеров
> действия легко и непринужденно.

Спасибо, мне известно происхождение нейросетей. Статью из энциклопедии кибернетики я также в состоянии прочесть.
Ещё раз - монография 1985 года для кибернетики (или проблемы иск. разума) никакая не старость. Она именно подвела итоги пред. 40 лет.

> Г...о, не г...о ... как ты относишься к осмысленной компоновке вирусов? Можно
> сделать так что вирус будет обладать теми или иными желаемыми свойствами.

Через 10^x лет. Всё, что в обозримой перспективе - безответственные игры с природой.

> Недавно кстати с какими-то бактериями такой номер провернули, попутно используя их
> как что-то типа молекулярного сборщика. Да, знаешь, будущее может быть немного
> жутковатым. Смотреть в бесконечность - вообще не для слабонервных.

К чему это? Что буржуазная наука безнравственна, как и спонсирующий её класс? Знаю. А Майкл Крайтон это красиво художественно оформил в Юрском периоде.

Ответить | Правка | Наверх | Cообщить модератору

103. "Компания Avast открыла исходные тексты декомпилятора машинно..."  +/
Сообщение от Andrey Mitrofanov (?), 18-Дек-17, 14:05 
>> Успокойтесь, пресловутый иск. разум, который всех схарчит, невозможен.
> Какие законы природы это запрещают? И даже несложно придумать как выйти на

" Проблема ИИ заключается, не в том, что программы станут умнее человека и захватят Мир, а в том, что они глупы и уже захватили Мир. "
  --//автора и точный текст не помню. коллеги подскажут, надеюсь.

Ответить | Правка | К родителю #97 | Наверх | Cообщить модератору

114. "Компания Avast открыла исходные тексты декомпилятора машинно..."  –1 +/
Сообщение от nuclightemail (??), 23-Дек-17, 19:32 
>> Успокойтесь, пресловутый иск. разум, который всех схарчит, невозможен.
> Какие законы природы это запрещают? И даже несложно придумать как выйти на
> уровень человека одним махом. Mind upload называется. Вопрос достаточности уровня технологий.
>> Возможны лишь очень быстрые реплики (повторения) отдельных аспектов человеческого мышления.
> Откуда весь этот треп следует?

Один из основных законов кибернетики, который можно грубо сформулировать так: творение всегда меньше по сложности творца. Или так: полностью понять себя этот творец (человек) не в состоянии.

Следствие простое: ИИ нельзя _создать_ !
...но можно вырастить параллельной эволюцией, где самая засада-то и будет - мы даже нейросети понять не можем (в смысле вместить в мозг обученные коэффициенты, а не понять принцип работы), а уж ЭТО... и придёт Скайнет!

Ответить | Правка | К родителю #97 | Наверх | Cообщить модератору

116. "Компания Avast открыла исходные тексты декомпилятора машинно..."  +/
Сообщение от Аноним (-), 23-Дек-17, 21:49 
> Один из основных законов кибернетики, который можно грубо сформулировать так: творение
> всегда меньше по сложности творца. Или так: полностью понять себя этот
> творец (человек) не в состоянии.

Для копипасты не требуется понимание. И для запуска турбо-версии эволюции тоже.

Компьютер обыграл чемпиона по игре в Go без понимания игрового процесса, програмеры лишь немного умели играть в Go. Их программа играла в Go намного лучше авторов. И лучше любого человека на планете. На поздних этапах ее тренировали на себе. По сути это готовый рецепт.

Т.е. имеются контрпримеры, показывающие что полное понимание опционально а турбирование эволюции может дать результат мощнее автора.

> Следствие простое: ИИ нельзя _создать_ !

Почему? Естественный интеллект создался. Постепенно эволюционировав из простейших форм к более сложным. Что кстати грубо опровергает ваш изначальный тезис. Последующие "версии" были сложнее прежних.

Просто целиком воспроизводить подобный процесс - очень долго, канительно и хрен бы его знает что там на выходе получится, нет никаких гарантий что путь процесса точно совпадет.

> ...но можно вырастить параллельной эволюцией, где самая засада-то и будет - мы
> даже нейросети понять не можем (в смысле вместить в мозг обученные
> коэффициенты, а не понять принцип работы),

Что интересно, вся живность так работает и это нисколько не мешает. Мы даже не задумываемся как именно мы отличаем кошек от собак. Коэффициенты - очень низкоуровневое представление. Как состояния транзисторов CPU. Когда я пишу a = b + 5, я так же абстрагируюсь и не оперирую состояниями конкретных транзисторов. Более того, в мой мозг не уместится то что сделает современный x86 процессор. У него миллиарды транзисторов, в мой мозг столько состояний не уместится. Но я могу абстрагироваться. Судя по всему жизнь научилась делать то же самое, только на уровне чуть ниже, так что на высокий уровень это почти не вылезает.

> а уж ЭТО... и придёт Скайнет!

Запросто. Я бы с ним познакомился, это было бы любопытно. Хоть я и не уверен что выжил бы после этого.

Ответить | Правка | Наверх | Cообщить модератору

118. "Компания Avast открыла исходные тексты декомпилятора машинно..."  +/
Сообщение от Ю.Т. (?), 23-Дек-17, 22:11 
>>> Успокойтесь, пресловутый иск. разум, который всех схарчит, невозможен.
>> Какие законы природы это запрещают? И даже несложно придумать как выйти на
> Один из основных законов кибернетики, который можно грубо сформулировать так: творение
> всегда меньше по сложности творца. Или так: полностью понять себя этот
> творец (человек) не в состоянии.
> Следствие простое: ИИ нельзя _создать_ !

Спасибо. Я уже устал от этого восторженного.

> ...но можно вырастить параллельной эволюцией, где самая засада-то и будет - мы

Точнее, можно запустить квази-эволюцию и получить что-то -- но качество этого будет невмещаемо.

Ответить | Правка | К родителю #114 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру