Главный оффтопик - Флудилка

Ren писал(а):
Masha Event писал(а):Лучше бы права людей научились уважать...

Люди этого нескоро добьются.

Ну дык пусть сначала этого достигнут, а роботы подождут.
Masha Event
Masha Event писал(а):Ну дык пусть сначала этого достигнут, а роботы подождут.

Я не верю, что этого когда-либо достигнут...
Ren
*Поступала на свою специальность частично из-за мечты когда-нибудь наполнить мир роботами и искусственным интелектом* Как что-то плохое, Маш =/
Азури
Азури писал(а):*Поступала на свою специальность частично из-за мечты когда-нибудь наполнить мир роботами и искусственным интелектом* Как что-то плохое, Маш =/

Азури, я-то ничего против не имею, но люди ж, блин, найдут способ как всегда всё перепортить.. В том числе с помощью роботов.
И вообще - уважайте Кодеров! Без Нас ваши роботы - набор металлов. (Ну а что? Так и есть.)
Masha Event
Азури писал(а):*Поступала на свою специальность частично из-за мечты когда-нибудь наполнить мир роботами и искусственным интелектом* Как что-то плохое, Маш =/

И потом умереть от них же.
Лучше кибернетика нежели робототехника.
Jovian808
Masha Event писал(а):
SMT5015 писал(а):О, Тандеркот. Я как раз хотел сказать, что отрезание крыльев Нике было как раз произведено фанатами и вообще никак не объяснено в "каноне". ЕМНИП.
О, SMT пришёл, порядок навёл. Так держать!

Я ж не пропогандирую отрезание крыльев Нике. Ника - каноничный Твайликорн. Но храм с таким названием и Твайлайт-няшка-единорожка прекрасно сочетаются.
А вообще, Лорен придэ, порядок наведэ. Две принцесси будэ.
Thunderstorm
Thunderstorm писал(а):Лорен придэ, порядок наведэ.

*Прийде,
*Наведе.
Не благодарить.
И вообще - ты у Лорен спрашивал? Она вроде не против Твайликорна.
Masha Event
Кстати этот робот на картинке - предвестник революции. Он относительно прост в обслуживании, универсален, и стоит 30к$
Smikey
Smikey писал(а):Кстати этот робот на картинке - предвестник революции. Он относительно прост в обслуживании, универсален, и стоит 30к$

А что он умеет-то?
Snoopy
Я не пойму, у меня с носом что-то, что ли... Ромашку я до сих пор чувствую, как плесень, к ней добавился каркаде, в котором я теперь ощущаю гнилую рыбу. И это не из одной пачки.
Ren
Умеет копать. Умеет не копать :-)
Черт его знает что он конкретно умеет. Двигать фигню туда сюда наверно, типа как на картинке показано.

Рень, понюхай плесневелую гнилую рыбу.
Smikey
Smikey писал(а):Рень, понюхай плесневелую гнилую рыбу.

Она должна пахнуть как каркаде?
Ren
Ren писал(а):Я не пойму, у меня с носом что-то, что ли... Ромашку я до сих пор чувствую, как плесень, к ней добавился каркаде, в котором я теперь ощущаю гнилую рыбу. И это не из одной пачки.

Запаховые галлюцинации могут быть симптомом опухоли мозга.
Snoopy
Snoopy писал(а):Запаховые галлюцинации могут быть симптомом опухоли мозга.

Или шизофрении, учитывая то, какие мне запахи глючатся. Даже не знаю, чего я боюсь больше из этих двух. D: но я всё же оооочень надеюсь, что это просто из-за ангины, кариеса и гайморита.
Ren
Masha Event писал(а):
Азури писал(а):*Поступала на свою специальность частично из-за мечты когда-нибудь наполнить мир роботами и искусственным интелектом* Как что-то плохое, Маш =/

Азури, я-то ничего против не имею, но люди ж, блин, найдут способ как всегда всё перепортить.. В том числе с помощью роботов.
И вообще - уважайте Кодеров! Без Нас ваши роботы - набор металлов. (Ну а что? Так и есть.)

"Нас"? Ты кодер?

Jovian808 писал(а):
Азури писал(а):*Поступала на свою специальность частично из-за мечты когда-нибудь наполнить мир роботами и искусственным интелектом* Как что-то плохое, Маш =/

И потом умереть от них же.
Лучше кибернетика нежели робототехника.

А три закона робототехники?
Азури
Азури писал(а):"Нас"? Ты кодер?

Начинающий. Почему бы и нет? А вообще - можно не обращать внимания, я тут ерундой страдаю.
Masha Event
Понятно. И какие языки?
Азури
Азури писал(а):А три закона робототехники?

Это домыслы Азимова. Я сомневаюсь, что эти "законы" вообще будут. Если некие "законы" есть, то это тупо программа а не ИИ.
Jovian808
Азури писал(а):Понятно. И какие языки?

ActionScript. А ещё меня собираются подсадить на языки C.
Masha Event
Понятно, что три закона это довольно примитивно. Сильный ИИ придется обучать доброте, дружбе и любви.
Smikey
Джо, эти домыслы достаточно адекватны и интересны для того, что бы воплотить их в жизнь при написании интеллекта роботов и следить за соблюдением. Называй как хочешь.
Азури
Азури писал(а):Джо, эти домыслы достаточно адекватны и интересны для того, что бы воплотить их в жизнь при написании интеллекта роботов и следить за соблюдением. Называй как хочешь.

Плохая идея, на мой взгляд. При достаточном уровне развития робот найдёт, как обойти такие искусственные ограничения, а при меньшем от него и так угрозы немного.
Wolfram
Smikey писал(а):Понятно, что три закона это довольно примитивно. Сильный ИИ придется обучать доброте, дружбе и любви.

Доброта, дружба и любовь "генерируется" через химические процессы в мозгу. А ИИ механический - значит, он не может этого иметь априори. Если и добавить его, то будет неким костылем-приложением, которую ИИ удалять будет как "мусорную".

Азури писал(а):Джо, эти домыслы достаточно адекватны и интересны для того, что бы воплотить их в жизнь при написании интеллекта роботов и следить за соблюдением. Называй как хочешь.

Я не понаслышке знаю этого Азимова. Читал все его произведения. Но вот "три закона" у него слишком примитивны и выполняются на уровне программы.
Если говорим про ИИ, то он в некотором понимании самодотстаточен и ему программы-костыли не нужны. Если вставлять ограничители, то это не ИИ а набор программ, который маскируется под ИИ.
ИИ это по сути самообучающаяся машина. Которая ничем не ограничена. СТавить запреты или ограничители бессмысленно, он его либо удалит/обойдет.
Jovian808
Сел Джовиан на конька и поскакааал!
Snoopy
http://stories.everypony.ru/story/2603/
Вот замечательный фанфик на тему ИИ. Может как худ.лит. он и не очень, но зато поднимает некоторые интересные вопросы, а еще там есть всемогущая Селестия ИИ!

Джов, твои мысли тоже "генерируется" через химические процессы в мозгу. Значит, механический ИИ не может мыслить? Кроме того в твоем мозгу куча ограничителей. Проблема в трех законах только одна - они ЗАПРЕЩАЮТ. Они не могут сказать нашему ИИ как надо действовать - для этого нужны более общие правила.
Если же такие общие правила - а именно любовь - удастся привить ИИ, то и ограничения ввиде законов будут только мешать.
Smikey
Smikey писал(а):Джов, твои мысли тоже "генерируется" через химические процессы в мозгу. Значит, механический ИИ не может мыслить?

Может, но проблема не в этом.
AlexUnknown писал(а):(автоопределение)Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Вопрос в том, что есть вред? Разные люди определяют это понятие по-разному, соответственно, дать чёткое определение на уровне архитектуры робота не получится, а значит, этот вопрос робот будет решать на уровне ИИ. Следовательно, решение, которое он будет принимать, может отличаться от того, что многие люди будут называть вредом.
Wolfram
Jovian808 писал(а):Доброта, дружба и любовь "генерируется" через химические процессы в мозгу. А ИИ механический - значит, он не может этого иметь априори. Если и добавить его, то будет неким костылем-приложением, которую он удалять будет как "мусорную".

Почему только химические процессы?
Что мешает ему логически прийти к выводам о доброте, дружбе и любви?

Да и, какая разница, какая машина - химическая или механическая, обе работают по алгоритмам. Не знаю, как другим, но как по мне, так чем меньше этих алгоритмов в химической машине, тем меньше она способна к доброте, дружбе, и любви. То же и с механическими может выходить. Так что, отсутствие этих вещей - признак какого-то недоделанного ИИ, и, сравнивая с людьми, то такой ИИ будет тем же, чем являются мартышки по отношению к человеку. Да даже те куда более проработанными окажутся...
Ren
Ren писал(а):Что мешает ему логически прийти к выводам о доброте, дружбе и любви?

Если человеку удалить некоторые части мозга, которые отвечают за эти чувства, он может дальше жить. И жить, но он будет холодным и безэмоциональным. Он может всего лишь оценивать ситуацию, хорошо ли другому человеку и все. Расстроен или счастлив он, ему будет безразлично. Он не будет сожалеть или радоваться. Он просто ничего ощущать не будет.

Smikey писал(а):Джов, твои мысли тоже "генерируется" через химические процессы в мозгу. Значит, механический ИИ не может мыслить? Кроме того в твоем мозгу куча ограничителей. Проблема в трех законах только одна - они ЗАПРЕЩАЮТ. Они не могут сказать нашему ИИ как надо действовать - для этого нужны более общие правила.
Если же такие общие правила - а именно любовь - удастся привить ИИ, то и ограничения ввиде законов будут только мешать.

Моральные и прочие ограничители, которые всего лишь сдерживают нас от какого-либо поступка. Но человек в любой момент может перешагнуть через все это. Если у него получится. А роботу с ИИ это ничего стоить не будет.
А что до любви - попробуй разработать или представить его роботу.
Jovian808
Thunderstorm писал(а):Я ж не пропогандирую отрезание крыльев Нике. Ника - каноничный Твайликорн. Но храм с таким названием и Твайлайт-няшка-единорожка прекрасно сочетаются.
Ты пропагандируешь обескрыливание Твай, несмотря на то, что без нарушения законов сюжета это невозможно.
SMT5015
Фанфик кто читал про Селестию ИИ?
Джов, если компютерному ИИ стереть кусок кода, он тоже станет холодным и безэмоциональным.
Smikey
ИИ ограничен, ровно как и человеческий разум. Возможность неограниченно исправлять самого себя давать ему не надо, она вообще из другой оперы и какая-то мутная. Задача о создании ИИ слишком общая, надо определить, что программист хочет получить в итоге. Разумеется, клепать робота, снимающего ограничители, никто не будет, но не вижу никакой логической цепочки, приводящей от существования ограничений к неразумности или ложности ИИ.
Cyanide Kualus
Jovian808 писал(а):Если человеку удалить некоторые части мозга, которые отвечают за эти чувства, он может дальше жить. И жить, но он будет холодным и безэмоциональным. Он может всего лишь оценивать ситуацию, хорошо ли другому человеку и все. Расстроен или счастлив он, ему будет безразлично. Он не будет сожалеть или радоваться. Он просто ничего ощущать не будет.

Вот именно, что "удалить". Если будет ходить по Земле ИИ, который хотя бы в одной области менее развит, чем человек по своей природе - то нафиг оно надо тогда?
Ren
Cyanide Kualus писал(а):Возможность неограниченно исправлять самого себя давать ему не надо, она вообще из другой оперы и какая-то мутная.

Это именно из той самой оперы. Главный смысл создания сильного ИИ - в том, что он сможет себя улучшать. Иначе мы просто сделаем подобие человека ввиде компьютера. Тоже прикольно конечно, можно будет наверно разобраться как работает разум, но саморазвивающийся ИИ гораздо круче. И опасней конечно.
Smikey
Как вообще можно быть менее/более развитым в вопросе морали? Сделайте мне из моралей упорядоченное множество. Например, дайте отображение, отображающее мораль в действительные числа.

Возможность улучшения не обязательно неограниченна. У нас-то стоят ограничения, живы-разумны.
Cyanide Kualus
Ах ну ммм. Мы уже такой сделали. Сам себе фразы вписывает.
Ren
Smikey писал(а):Джов, если компютерному ИИ стереть кусок кода, он тоже станет холодным и безэмоциональным.

Стереть кусок кода - это к программе но никак не ИИ. В противном случае он исправит удаленный или поврежденный сектор. Конечно, если она не критически важная, без которого он не мог бы нормально функционировать.

Cyanide Kualus писал(а):ИИ ограничен, ровно как и человеческий разум. Возможность неограниченно исправлять самого себя давать ему не надо, она вообще из другой оперы и какая-то мутная. Задача о создании ИИ слишком общая, надо определить, что программист хочет получить в итоге. Разумеется, клепать робота, снимающего ограничители, никто не будет, но не вижу никакой логической цепочки, приводящей от существования ограничений к неразумности или ложности ИИ.

Нет. То что ты сказал - это набор программ, ничерта он не ИИ. Вот цитата:
Интеллект — это способность к нахождению действий, позволяющих разрешить проблемную ситуацию, для которого готового ответа нет

Т.е. наш ИИ должен САМООБУЧАТЬСЯ а не иметь готовый набор программ на этот случай.
Тут две крайности - программа или искусственный интеллект.
ИИ — это не просто алгоритм, которому на вход подают какие-то величины, а в результате его работы получают результат, ему нужно взаимодействовать с окружающей средой, по крайней мере нужно получать информацию о ней.
Jovian808
Ren писал(а):Что мешает ему логически прийти к выводам о доброте, дружбе и любви?

Теоретически, ничего. Но вот они будут записаны в коде, как принесение локальной выгоды для потенциального улучшения условий социума, долговременная поддержка определенных особей в обмен на то же и симбиоз соответственно. Просто так ИИ ничего не сделает, и ему нужны будут причины.
KHORNE
Ren писал(а):
Jovian808 писал(а):Если человеку удалить некоторые части мозга, которые отвечают за эти чувства, он может дальше жить. И жить, но он будет холодным и безэмоциональным. Он может всего лишь оценивать ситуацию, хорошо ли другому человеку и все. Расстроен или счастлив он, ему будет безразлично. Он не будет сожалеть или радоваться. Он просто ничего ощущать не будет.

Вот именно, что "удалить". Если будет ходить по Земле ИИ, который хотя бы в одной области менее развит, чем человек по своей природе - то нафиг оно надо тогда?

А тебе ИИ для личного общения нужен? Для расширения кругозора и обсуждения культуры с политикой? ИИ можно использовать в целях, для которых не нужны те менее развитые области.
Азури
KHORNE писал(а):Просто так ИИ ничего не сделает, и ему нужны будут причины.

По-моему, "просто так" никто ничего не сделает, ни человек, ни животное.

Азури писал(а):А тебе ИИ для личного общения нужен? Для расширения кругозора и обсуждения культуры с политикой? ИИ можно использовать в целях, для которых не нужны те менее развитые области.

Если ИИ будет развиваться, то что-то страшновато будет...
Ren
Еще раз: решение проблем не подразумевает ничем не ограниченного набора средств. Ограничения, в общем-то, уже и так есть, никуда от них не убежишь: конечные вычислительные мощности, случайные ошибки, несовершенство органов восприятия. То, что ты хочешь сделать - небезопасный и специфичный ИИ, на кой фиг он нам нужен?
Cyanide Kualus
Ren писал(а):
KHORNE писал(а):Просто так ИИ ничего не сделает, и ему нужны будут причины.

По-моему, "просто так" никто ничего не сделает, ни человек, ни животное.

Имелось в виду, что ему мораль писана через ограничители, и за "спасибо" он не начнет действия.
KHORNE
KHORNE писал(а):Имелось в виду, что ему мораль писана через ограничители, и за "спасибо" он не начнет действия.

А если "спасибо" для него окажется достаточной наградой, потому что важно не это "спасибо", а сам результат, которого он помог добиться, потому что пришёл к выводам, что он должен был добиться этого результата?

Про "просто так" я имел в виду не "за что-то".
Ren
Ren писал(а):Ах ну ммм. Мы уже такой сделали. Сам себе фразы вписывает.

Просто не понятно ещё, кто кого создал... о0
MBS
MBS писал(а):Просто не понятно ещё, кто кого создал... о0

что
НЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕЕТ
КОНЕЦ УЖЕ БЛИЗКО
ДЕКАБРЬ УЖЕ ДАЛЕКООООООО >;}
Ren
Азури писал(а):ИИ можно использовать в целях, для которых не нужны те менее развитые области.

Скорей всего, он дропнет нас, потому что мы слишком сильно мешаем и портим все. В лучшем случае отстранит от работы, в худшем начнет "зачистку".
Jovian808
Кстати, а ты с службы вернулся, Мбыс? Вроде достаточно времени прошло.
KHORNE
Какой-то ты пессимист, Джо. Все у тебя плохо в жизни, и в прошлом, и в настоящем, и в будущем.
Азури
Все знают, что Великий Джихад закончится победой человечества.
Cyanide Kualus
Надо различать сильный АИ и специфический ИИ. Таких уже полно, вон, например, считают когда акции продавать, а когда покупать. Делают это хорошо и быстро, а в остальном - пни пнями.
Сильный ИИ - который может пройти тест Тьюринга.
Smikey
Cyanide Kualus писал(а):Как вообще можно быть менее/более развитым в вопросе морали? Сделайте мне из моралей упорядоченное множество. Например, дайте отображение, отображающее мораль в действительные числа.

Развитие морали, так же как и сама мораль, - субъективное понятие, какое здесь может быть отображение?
Jovian808 писал(а):
Интеллект — это способность к нахождению действий, позволяющих разрешить проблемную ситуацию, для которого готового ответа нет

Т.е. наш ИИ должен САМООБУЧАТЬСЯ а не иметь готовый набор программ на этот случай.
Тут две крайности - программа или искусственный интеллект.
ИИ — это не просто алгоритм, которому на вход подают какие-то величины, а в результате его работы получают результат, ему нужно взаимодействовать с окружающей средой, по крайней мере нужно получать информацию о ней.

ИИ - частный случай программы или комплекса программ, обладающий этими свойствами. Понятно, что самообучение тоже происходит по каким-то алгоритмам. И программа - это не обязательно что-то заранее готовое и неизменное - во-первых, у программы обычно есть изменчивый набор данных, а во-вторых, некоторые программы способны создавать другие программы и изменять свой код.
KHORNE писал(а):Но вот они будут записаны в коде, как принесение локальной выгоды для потенциального улучшения условий социума, долговременная поддержка определенных особей в обмен на то же и симбиоз соответственно.

Нет, скорее они будут записаны примерно так же, как и у нас в мозгу - в виде каких-то идеализированных примеров и характерных для них общих черт. Строго определить, является ли конкретный случай настоящей любовью или дружбой, человек не может, не сможет и робот, иначе это будет уже совсем другое понятие. С вредом проблема именно в этом.
Ren писал(а):Если ИИ будет развиваться, то что-то страшновато будет...

Я считаю так: если ИИ разовьётся до такого уровня, что сможет уничтожить человечество, то может это и к лучшему. Фактически смена разумной цивилизации на более продвинутую.
Smikey писал(а):Сильный ИИ - который может пройти тест Тьюринга.

Сама концепция теста Тьюринга имеет ряд недостатков, так что я бы не стал удовлетворяться таким определением.
Wolfram