Форум ИГШ

Старое место
Текущее время: 22 май 2018 01:33

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 9 ] 
Автор Сообщение
СообщениеДобавлено: 07 фев 2018 17:09 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5016
Читаю сабж. Печальное зрелище... аффтар залез в какие-то антропоморфные дебри и в них блуждает. Чего стоит только натягивание мальтузианства на клонирование манграмм. А уж незамеченное этим "мыслителем" смешивание "агентов" в смысле ботов с ИИ с экономическими агентами в смысле живых сотрудников с их амбициями, это вообще полный песец. При этом как раз в данной сфере есть реальный пример, который сам аффтар в другой главе даже приводит - автоматический трейдинг, где разница в характерном поведении между живыми брокерами и программными вполне наблюдаема. Или скажем, часто упоминается контроль над системами ИИ посредством периодического анализа их кода... ну ладно, трудоёмкость и эффективность такой операции аффтар не представляет вовсе. Но при этом сам же пишет о самообучаемых нейронных сетях, у которых кода в классическом смысле нет вообще.

В общем, нифига эти теоретики не понимают в колбасных огрызках возможных последствиях появления сильного ИИ. Или может, это я не понимаю смысла данной книги который ИМХО заключается в том, что аффтару захотелось потрындеть с умным видом по модной теме

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 17:19 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 9977
Откуда: Таганрог
аффтару захотелось потрындеть с умным видом по модной теме
Не он первый, не он последний.
Бутлерианский Джихад ещё впереди...

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 17:28 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5016
al_mt писал(а):
Бутлерианский Джихад ещё впереди...


Он уже невозможен. Короткая и печальная история луддитов тому примером. А ведь мир с тех пор стал практически тотально зависим не просто от неких отдельных образцов техники, но от слившейся с цивилизацией техносферы, непрерывно совершенствующейся и приобретающей всё более интеллектоподобные (их обычно называют слабым ИИ) свойства.

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 17:30 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5016
Вот кстати, есть живой пример не слишком дружественного к отдельно взятым людям ИИ - големы. Покажите мне пример хоть одной страны, успешно отказавшейся от их использования и тогда в этот самый бутлегианский ещё можно будет поверить...

P.S. Ешё один ключевой момент. Все современные исследователи опасностей, связанных с ИИ, подчёркивают - контролировать оный можно только до момента, когда он сам начнёт ставить себе задачи и модифицировать сам себя. То есть до появления у некоей искусственной системы собственно Интеллекта как такового. После этого в интеллектуальном плане ИИ обгоняет всё человечество вместе взятое сразу и навсегда, и уже он будет контролировать людей и все системы, ими созданные. На таком уровне, что люди не будут в состоянии этому хоть как-то сопротивляться, хотя бы потому, что их характерное время реакции заведомо уступает ИИ на много порядков. К тому же заметить сам факт манипуляции кем-то, кто умнее людей на порядки, может оказаться невозможным. После этого любой "джихад" бессмысленен, даже у одного муравья больше шансов победить США, чем у людей - хоть как-то навредить уже развившемуся ИИ. Влиять на него можно только в его "зародышевой" стадии, причём успех такого влияния не гарантирован, ибо аналогов подобной ситуации в человеческой истории не было. Джихадствовать раньше надо было, во времена ЭНИАКа. А сейчас потенциальный ИИ уже в каждом смартофоне, а скоро вообще будет разлит во всей "умной среде обитания". Современный человек без слабого ИИ уже не живёт (хотя пока и не понимает этого в полной мере), и эта зависимость в принципе уменьшиться не может.

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 17:51 
Не в сети
Аватара пользователя

Зарегистрирован: 19 апр 2010 10:30
Сообщения: 9977
Откуда: Таганрог
БД будет в виде фарса, почти наверняка.

_________________
Спасите мышонка Гарольда! http://eyewire.org


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 17:57 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5016
al_mt писал(а):
БД будет в виде фарса, почти наверняка.


Таких хэппенингов и перформансов и сейчас навалом. Как будто мировые СМИ на них обращают внимание дольше чем неделю...

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 19:28 
Не в сети

Зарегистрирован: 11 апр 2010 13:18
Сообщения: 5016
Всё-таки в этой книге есть и вполне разумные мысли. Например, следующая - с того момента, как возникла чисто теоретическая возможность создания сверхразумного ИИ, философские и прочие рассуждения на абстрактные темы заведомо теряют смысл. Потому что ИИ, даже только человеческого уровня, заведомо превосходит как любого отдельно взятого человека, так и любую представимую общность людей именно в скорости, глубине и объёме абстрактных логических рассуждений. Это для любого техногенного ИИ столь же естественно, как для людей инстинктивные действия, вроде прямохождения. То, что для человеческого разума достижимо только сознательной эмуляцией абстрактной логической машины, у ИИ базисное. То бишь когда ИИ появится, он очень быстро освоит всю человеческую философию с логикой и математикой (то бишь теоретическими вопросами математики, ибо сама она, как известно, не наука, а язык) и самостоятельно за короткое время пройдёт путь, который человеческие мыслители не осилят за всё будущее человечества, даже если у нас впереди миллиарды лет. Следовательно, вся действительно осмысленная деятельность в области философии, математики и всех прочих логико-зависимых дисциплин должна быть сведена исключительно к приближению создания ИИ.

_________________
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 20:13 
Не в сети

Зарегистрирован: 15 апр 2010 23:33
Сообщения: 8883
Откуда: Донецк
vasilisk писал(а):
...вся действительно осмысленная деятельность в области философии, математики и всех прочих логико-зависимых дисциплин должна быть сведена исключительно к приближению создания ИИ.


С точки зрения узкокорпоративных интересов - к отдалению создания.


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 07 фев 2018 21:15 
Не в сети
Аватара пользователя

Зарегистрирован: 11 апр 2010 16:25
Сообщения: 12219
...чуйкой мню - что у ИИ одним из основных хобби станет Коллекционирование...


Share on FacebookShare on TwitterShare on RedditShare on VKShare on Google+
Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 9 ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 2


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Topic attributes:

Найти:
Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB