Случайно попаднах на една статия, която е по-скоро предговор или резюме на книгата "The Artilect War: Cosmists Vs. Terrans: A Bitter Controversy Concerning Whether Humanity Should Build Godlike Massively Intelligent Machines" и ми се стори уместно да пусна една тема за дискусия тука. Макар и с доста недостатъци, това четиво дава добри теми за размисъл. Ето и въпросния текст:



В тази статия, а и в самата книга, липсват доста важни логически връзки, без които всъщност това се превръща по-скоро в художествен текст от средно качество. Но пак можем да зададем въпроси от сорта на "Какво мислите вие за създаването на свръх интелигентен изкуствен интелект?", "В коя от тези групи, макар и доста обобщени, бихте се вписали?", "Дори и да се създаде подобен изкуствен интелект, дали и каква причина би имал той/те да затрие/ят човечеството?", "Какви евентуални идеи бихте имали за предотвратяването на подобен конфликт, ако действително възникне?" и т.н.

Имам да прочета още няколко статии и коментари на тази тема и ще допълня после с още информация и/или въпроси.

За мен цялата работа е 50 - 50 (петдесет на петдесет).

Защото:
1. Ако създадем свръх интелект, то в зависимост от конструирането му, може да бъде добър към човечеството и да го подпомага. Това още повече ще засили скока на хората. И ще ни позволи да стигнем до вероятността да намерим отговорите на най-търсените въпроси.

Обаче това ще е свръх интелект само за нас, тъй като ще сме вложили всичките си знания за него. Но ако междувременно дойдат извъземни раси, то те ще са с повечето познания. За тях свръх интелекта поне ще умее да общува с тях.


2. От друга страна, обаче свръх интелекта може да реши, че не сме му нужни. Това вече е лошия сценарий.
- Пълно унищожение. За какво му е притрябвал по-нисш вид?!
- Вариант "Матрицата". Тоест може да ни използва като вид работна ръка или ресурс.

Такъв вариант може да бъде избегнат като се преместим на друга планета (ако имаме нужната технология) или пък точно свръх интелектуализираните машини, хора или каквото бъде създадено като тип, да бъдат те изпратени да проучват нови звездни системи.
А може и да се споразумеем някак със свръх интелекта да не унищожава човечеството, но тогава ще зависи изцяло от неговото решение.





Общо взето, това си мисля аз. Засега е твърде рано да смятаме, че ще ни превземат. Всичко е възможно, пък и не мисля, че дори свръх интелектите могат да направят нещо срещу случайността, една от странните сили в нашия живот.

Нета нещо не ще да зареди статията, но ще взема да реагирам неосведомен

първо, http://www.smbc-comics.com/index.php?db=comics&id=2362

Някакси лишен от емоция свръхинтелект не мисля, че би искал да ни унищожи. Защото няма цел. Без емоции, единственото нещо, което ще се опитва да постигне, е това, което му е зададено от хората. Може би, както в описаното в линка, ще затрие човешките указания за това как да го постигне, ако знае, че са тъпи. Но като цяло - защо биха търсили доминация? Какво ще постигнат, ако я имат? За разлика от човека, който си търси глупости да си запълни времето след като осъзнае, че няма реална цел в живота, една програма просто би забила в изчакване на следващите указания.

Мисля, че трябва да гледаш филмът "Аз роботът" с Уил Смит . Дават го често по БТВ. Мине се не мине време и те го пускат. Филма е точно за темата. Аз си направих някои много задълбочени изводи, докато го гледах за 2-ри път. Когато се разработва машина с висок изскуствен интелект трябва да се имат в предвид всички плюсове и всички минуси, които могат да произтичат от това. Най-напред, ако позволим такива машини "андроиди" да изземат прекалено много човешки дейности рискуваме първо да затъпеем и второ, някой да ни превземе и пороби благодарение на тях, използвайки тяхната сила, разпространеност и многофункционалност. Все пак борбата за власт съпътства човечеството от хиляди години и това би била прекрасна възможност някой да надделее и да се задържи на върха на обществената пирамида.
За съжаление, когато нещата станат много сложни винаги има начин да се объркат и ситуацията да се развие в непредвидени посоки с непредвидими последствия и последици. Затова, когато стане въпрос за технологии, никога не трябва да се обвързват прекалено много с човека, подобно на вече посоченият филм и да има ясно законови наредби, които да регламентират внедряването на технологиите в обществото, така че да не стават сакатлъци. Винаги има начин. Просто не може да не може. И когато се прави нещо винаги трябва да се мисли за последствията, които евентуално могат да произтечат от тях. Иначе става филм на ужасите...

^ I go in nerd rage every time this film is mentioned. Go watch something more faithful to Asimov, for example Time of Eve. А, по тази причина и не успях да дочета поста ти, сори >.>

Защо просто не споменахте матрицата и да се приключи с примерите

Колкото по темата: Въпросът е каква е тази машина? Разликата между човек и машина винаги ще съществува, ако не се преодолее една определена граница, а именно машината да разбира и да е способна да изпитва човешки емоции. Това е и основната разлика, която ни разграничава. Ако тази машина е способна на изпитва нещо, да речем, че ще се получи нещо подобно на АЙ: изкуствен интелект на Стилбърг.
Ако ли не, като разум водещ се от логика и предварително поставена цел,то той ще взима най-логичните решения,независим от морални или етични норми. Естествено в програмата на такъв интелект би могло да се зададе сет от правила и цели, които да имат за цел да не претъпкват основните човешки свободи(особено в случай, че става дума за Богът-машина, Програмата-майка на човечеството и т.н), но! Нали се сещате , че дори в "подредения" човешки мозък има толкова много противоречия, че в един момент е неминуему този интелект да промени основната рамка и ще пренареди приоритетите си. Най-ярък пример за човешко противоречие, което би могло да доведе до еволюиране на програмата: Войната е лоша, но винаги е имало и има войни.
Как може едно съзнание осланящо се на логика да разбере подобен парадокс? Лесно! Фактът ще е с приоритет пред човешкото мнение и съответно човешкото мнение ще бъде игнорирано. -> Човекът не винаги е прав. За постигане на основната цел трябва да се игнорира мнението му.
Или накратко: Неперфектно създание не е способно да създаде нещо перфектно.

Честно казано не съм прочетох статията, но това не ми пречи да говоря по темата


Та първо... човечеството не може ей така от нищото да създаде свръх интелегентен изкуствен интелект. AI може сам да се подобрява и да търси перфектност, не човек ще го направи перфектен. Ако ще се създава нещо такова, то ще нещо на много малка скала. С времето ще се разраства към "интелегентен" и "свръх" заради собствените си качества да се учи, да взима сам решения и да се самодоразвива. В началото ще е точно като малко дете... и голяма част от логиката и решенията му ще се влияят от хората, от начина му на обучение и от информацията, която поема. И точно защото е "интелект" ще е възможно да взима решения основани на морал, емоции и селф-интерест, а не само на логика и факти. Ако е само на логика и факти е просто програма, няма никакво самовъзприяте за себе си, а в такъв случай каквато и да е опасност идва от човека, не от машината.
И Mandrake точно ти като спомена за "Аз, роботът" не осъзнаваш ли, че всъщност изкуственият интелект там е самият робот, със собствени мисли и вярвания, а не програмата, която се опитва да направи преврат...
Другото, което го има е, че този изкуствен интелект може да няма нужда от хардуер и да е само софтуер. В такъв случай човечеството може дори и да не разбере, че го има и да нямаме никакви проблеми с него, както и той с нас
А ако не е, и са много на брой индивидуалности и са повече от някаква прашясала процесорна машина в дъното на някой правителствен бункер, тоест като андроиди например разхождайки се наляво-надясно идва на лице моралната и философската гледна точка... те "живи" ли са и имат ли равни права с хората? Тука расизмът и страхът няма как да се скрият и ще си кажат думата, но в крайна сметка защо да не можем да съществуваме в хармония?
А още по-фантастично ако погледнем на нещата в крайна сметка човекът и машината може да станат едно и видът изкуствено да еволюира. Прекалено е далече и отворено откъм въображение, за да се каже нещо повече за това в таз тема.
Накратко - ако човечеството успее да създаде нещо такова, до война може изобщо да не стигне. Но ако се стигне, познайте кой ще е виновен и кой е по-вероятно да спечели

Wut? 0_0 Много неща имаше в поста, които исках да 突っ込む-на ама това просто ме разби.

^Имаше подобна идея във фантастичната четирилогия за Хиперион.

Там хардуера бяха порталите и "паразитите", ако се не лъжа.

хах, че какво? програмата е софтуер; AI е програма, която може да "мисли". Особено с появяването на виртуални светове и каквито се сетиш преносители на информация... Представи си, че в бъдеще във всеки един човек има електроника и синтетика, човешкият мозък също може да поддържа изкуствено съзнание (и може би без дори самият човек да го осъзнава... )

което ще го превърне в хардуера! Дъъъ :/

имам предвид, че няма да е заковано на едно място, а ще може да се мести, копира и крие навсякъде. И няма да е толкова лесно да се унищожи като да изпържиш един сървър или да счупиш диск или да запалиш компютър
а това всичкото го започнах, защото преди това се е говорило за машина или някаква единична платформа, където да се съхранява и ограничено до тук

Няма вариант, в който (ако приемем, че изобщо може да създадем) изкуствен интелект да бъде "закован" за една машина. Този интелект в крайна сметка ще си е нули и единици. Винаги може да се копира неограничен брой пъти. И винаги трябва да има хардуер, на който да бъде копиран. Премахнеш ли хардуера (дори и да е човек) премахваш и интелекта.

offtopic/

Пространството между порталите и мозъците на хората, а при другото отиваше към някакви трансцедентни god-like ai-та, които съществуваха в някакви измерения...