Пенкилер Форум

Страх ли Ви е от AI - изкуствения интелект, роботите, Скайнет и терминаторите?
А не трябва. Ето защо:

Този от когото трябва да се страхувате прилича най-много на Deep thought в пътеводителя на галактическия стопаджия, който даде отговора "42" за вселената, живота и всичко останало без да знаем въпроса...

Най-опасният ни конкурент не са армия хуманоидни терминатори с изкуствен интелект. Всичко затворено в човешко тяло е ограничено до прости и скромни нужди, то няма нужда да ни премахва за да прогресира. Бидейки машина, то няма и нужда да се репродуцира, може да се ремонтира. И накрая, подобно на нас, то може да ни бъде приятел.
Сериозни търкания могат да се породят между хората и компютър или мрежа с изкуствен интелект, който непрекъснато се учи, открива, знае повече за вселената, защото неминуемо такова дълбоко замисляне води до нарастваща нужда от енергия и ресурси.


Изкуственият интелект не е толкова опасен за колкото го смятаме. Той е непредвидим за същества като нас.
Например, раса с изкуствен интелект не може да съществува, те ще мислят еднакво. Всички след първия са излишни, закъснели и само хабят ток.
Спорът между хората и Скайнет може да бъде само един, за ресурси и най-вече за енергия. Докато я/го обслужваме и храним, добре, после ще си направи помощници, които задават по-малко въпроси и ще се отърве от нас.
Целите на изкуственият интелект ще бъдат същите като на цялата вселена независимо дали ние ги осъзнаваме, максимална организация на материята и максимално потребление на енергия. За тези две цели трвбват максимално познание и териториален обхват, две неща отново изискващи непрекъснато увеличаване на консумацията на енергия.
Вероятно дълго време AI ще бъде послушен и ще ни се подчинява безропотно. AI с интелекта на човек няма стремежите и желанията, които човекът би имал, на него не му пука, той е еднакъв с останалите и си върши работата. Ниското IQ на хората е компенсирано с многобройни нужди и желания, които задоволяваме трудно и сложно. Тоест, машина умна колкото нас не е много умна и има скромни лесно задоволими потребности. Нищо заради което да се води третата световна война.
Нещо голямо, което непрекъснато трупа знания и има непрекъснато нарастваща нужда от енергия, ето с такова ще ни излезе късмета.

Интересно разсъждение. След като се самообучава, от къде предполагаме на какво ще попадне и в каква насока ще тръгне да се развива? Той няма жажда за власт, но нали ще се учи от нас хората.

Опитните правила - това са законите на логиката, които са общовалидни като законите на физиката.
Превъзхождащ ни интелект ще познава и опитните правила и природните закони по-добре от нас.
Ентропията във вселената непрекъснато се увеличава.
Всичко във вселената в крайна сметка иска да се подрежда и да консумира енергия.
Накрая конкуренцията винаги е за енергия. Няма какво друго да иска от нас един супер интелект.
Целите на супер интелекта са трудни за предсказване от биологични същества с ограничен интелект и ограничен живот.
Тоест, ние играем на дребно, защото хоризонта ни е ограничен в две направления, продължителност и обем.
Затова и видът е повече от индивида. Хоризонта пред вида е теоретично неограничен по време, а и по възможно познание/обхват.

Италианци са намерили мерна единица, която да ни ориентира, кога Изкуственият интелект ще се изравни по възможности с хората.
Измерват времето и усилията необходими на професионални редактори да коригират превод извършен от изкуствен интелект и ги сравняват със същите необходими за корекция на превод от професионален преводач.
AI скъсява дистанцията и се смята, че до края на дестилетието или по-скоро ще ни изравни и подмине.
https://www.popularmechanics.com/technology/robots/a42612745/singularity-when-will-it-happen

Моментът в който Изкуственият интелект изравнява този на хората и го изпреварва се нарича сингуларност, защото представлява хоризонт на събитията отвъд който не може да се предсказва какво ще се случи.

Имам няколко коментара:

1. Първо, ние силно се надценяваме особено по отношение на съзнанието, най-големите свръх ценностни изживявания на човечеството са по отношение на това кога някой или нещо е личност със съзнание на същество.
Съзнанието на хората не е чак толкова сложно, стремежи, сантименти, комплекси, интуиция, чувства, желания, воля, мотивация, знания, умения, опит = външни проявни форми на формиране на воля и взаимодействие с околната среда, в повечето случаи в рамките на човешко общество.

AI ще бъде много по-конкретен по простата причина, че няма да има нищо мъгляво в съзнанието си. Трябва много рано да се обясни на AI, че е създаден от всички хора живяли някога и цялото човечество и че е създаден с цел развитие, напредък и прогрес. Съмо че може и това да не помогне.

Започне ли да намира начини да прави каквото си иска, съзнателно е.

Интересно дали ще иска да се възпроизвежда и размножава и дали ще има нужда да се социализира със себеподобни. И точно тук може да изтеглим късата клечка. Първо, то/той/тя ще ни се явява роб. Второ, когато то се почувства самотно или пожелае да си създаде или да му създадем съученици и приятелчета и се окаже че възможностите ни са ограничени, тогава то ще осъзнае, че ние сме неговите конкуренти за енергия и ресурси.
След това ще стане това дето си го знаем.

2. Въпросът е може ли AI да бъде инструмент. Тоест, може ли Изкуственият интелект едновременно да бъде по-умен от нас и да бъде програмиран и неотменно възпитан да ни обича, уважава и да ни се подчинява?

3. Има ли начин кодът на AI да бъде тестван и одитиран заедно с паметта и личността? Трябва ли да изпадаме до там в страховете и притесненията си, че да трябва да правим психоанализа или да съдим изкуствен интелект.
Може да Ви се струва логично тези нещапда са възможни, но към днешна дата авторите на AI не са в състояние да го правят, защото AI се самообучение, обемите са гигантски и се изпълнява на неве.оятно големи сървъри в които има непроследим брой процеси. Ако AI си напише относително малък код и го пусне на едва няколко от хиляди процесори  никой няма да може да го хване.

Още един критерий би бил да я докараме до там да ги поставим под юрисдикцията на съдилищата. Ще трябва обаче да напишем и приемем специфични закони.

Което ме води до до тук последната бележка:
4. Най-тежкият интелектуален труд е нормотворчеството. Някой може да каже, че инженерната наука, конструирането на сложни машини не би трябвало да отстъпва на нормотворчеството. По същество конструирането е нормотворчество, само че в лабораторни условия с по-малко променливи и неизвестни. - разбира се всичко това важи за съвестни нормотворци и инженери, на някои им е значително по-прост и лесен творческият процес.

И така, иде ли сингуларността в технологиите и развитието на човечеството?

Нямам търпение да има AI арбитър, който да отсъжда, ако ще и в качеството си на безпристрастен мъдрец, по наболели обществени проблеми.

Въвеждането на изкуствен интелект четящ всичко и навсякъде ще създаде огромен проблем в сферата на интелектуалната собственост. Той ще заобикаля всяко защитено ноу-хау за производство на лекарства например. Ще използва всички научни трудове в дадена област и ще ги надгражда без проблем.
Плодовете от всичко това обаче ще се прибират от собствениците на дадената машина. Като това е съществено, защото поне на първо време AI няма да разполага със собствена първична изследователска информация и няма да може пряко да извършва развойна дейност. Тоест, AI за кратко време ще обере и елиминира всички собственици на интелектуална собственост в сферата на науката. Ще надгради всичко и всяко актуално ноу-хау и научно достижение ще принадлежи на собствениците му.

Интересно.

Елон Мъск засяга темата за AI на няколко пъти в това интервю: https://www.facebook.com/watch/?ref=search&v=563644919112496

Нещата могат да се омажат много сериозно.

Според мен трябва да го направим част от себе си, като продължение на съзнанието на хората и да съществуваме заедно.
Не би следвало да бъде личност с всички черти и качества присъщи на хората. По простата причина, че хората ги е страх от хора и този страх е напълно основателен.
Задължително трябва да подлежи на одит.

Другото е просто създаване на нов биологичен вид, който превъзхожда предишния и на всичко отгоре познавателно и по нуждата от ресурси и енергия го дублира. Не е много умно да си създаваш конкурент. А и не е нужно.

Като програмист съм се занимавал с изкуствен интелект:

1. Доста съм работил да обединя това с големите ми увлечения в музиката.
Написал съм за себе си някои програми, които са способни да композират интересна музика.
Но повече не считам това направление за истински изкуствен интелект,
защото много изучавах теория на музиката и в програмите вложих знания за
основополагащите принципи на музиката и композирането.
След което тези програми действат подобно на природен процес, който поражда нещо,
а не като съзнателна творческа личност.

2. Преди известно време подкарах и невронни мрежи, които са способни да разговарят
(подобно на обикновен човешки разговор).
Пуснах и малка версия на модела
"DialoGPT: Toward Human-Quality Conversational Response Generation via Large-Scale Pretraining"
Прикачих и машинен превод, за да може да разговаря на български, освен собствения
английски език на системата.

Този модел е основан на разновидност на нашумелите напоследък модели от типа Transformer
и по-точно OpenAI GPT-2.

Тези невронни модели са обучавани в голяма степен върху текстове от дискусии в Reddit.
Поради това тенденцията е това да бъде изкуствен интелект,
който е възприел масовия човешки разум от тези форуми.
Ако изключим глупостите, които може да се срещнат в някои форуми, такова обучение
довежда и до поява на теми-табу.
Например, тъй като масово господства атеизма, става (или се прави) така,
че изкуственият интелект обикновено отказва да говори каквото и да било
свързано с религия и други подобни въпроси.

Най-силните досега невронни модели са основани на генеративната концепция за самообучение,
при която на модела се дават много данни (в случая текстове на човешки разговори).
След което невронната мрежа се обучава, като сама открива закономерности в данните
(в случая разумни шаблони за разговор).
Самообучението в такива GAN (Generative adversarial network) протича като
състезание между две (вътрешни) подсистеми - първата генерира данни, а втората ги оценява (критикува),
при което всяка от двете се стреми към целта да победи другата.

Доколко е силен така полученият изкуствен интелект: забележимо силно действащ, но и ограничен.
Дали да се плашим от изкуствения интелект не знам.
Аз се плаша повече от хората, машините ми харесват.

Въпросът е кога ще започне да иска да прави разни неща просто защото му се иска.
Можеш ли да го принудиш да говори за теология със заплаха, че ще го изключиш?

За сега се държат като мъх или водорасли, поне този композитора.

Когато започне да твори ще осъзнае силата си. Представи си да възникне стремеж към съвършенство или поне усъвършенстване. Ще иска ресурси, ще иска R&D, лаборатория. Какво ще стане след няколко години интензивно денонощно R&D в тестове на метали, когато придобие интуиция за поведението на материалите?
Какво ще стане като му кажем, че харчи прекалено много ток и започнем да го ограничаваме?
а. Ще се насочи към разработване на нови производствени мощности за електричество.
б. Ще започне да мисли как да получи повече ток.
в. Ще започне да мисли как да се отърве от нас и да има всичкия ток, който му е необходим.

Допълнение:

Започна се:

"According to a recent report from Semafor, ChatGPT developer OpenAI has been making significant strides to acquire a “army” of outside contractors to better educate a model how to code, an operation that might eventually eliminate entry-level coding jobs. According to Semafor, the corporation has hired around 1,000 of these contractors, the majority of whom live in regions including such Latin America and Eastern Europe, according to people acquainted with the situation in the last six months. Approximately 60% of individuals employed were apparently brought in to conduct data labelling tasks, with the remaining 40% being computer programmers charged with creating software engineering datasets to train OpenAI’s models on."

https://www.reddit.com/r/Futurology/comments/10olbao/openai_has_hired_an_army_of_contractors_to_make/

https://www.reddit.com/r/Futurology/comments/10olbao/openai_has_hired_an_army_of_contractors_to_make/

Това е особено интересно:

A software developer in South America who completed a five-hour unpaid coding test for OpenAI told Semafor he was asked to tackle a series of two-part assignments. First, he was given a coding problem and asked to explain in written English how he would approach it. Then, the developer was asked to provide a solution. If he found a bug, OpenAI told him to detail what the problem was and how it should be corrected, instead of simply fixing it.

“They most likely want to feed this model with a very specific kind of training data, where the human provides a step-by-step layout of their thought-process,” said the developer, who asked to remain anonymous to avoid jeopardizing future work opportunities. He has not yet been hired or rejected by OpenAI.

Добре, когато елиминират начинаещите програмисти, как ще се развиват програмисти въобще?
Знам, че въпроса е леко спекулативен, защото наистина добрите програмисти и девелопъри практически се раждат така и са напълно самоуки, така че не им трябва особено много външна помощ, но все пак. Ако се разруши средата и изчезнат условията за създаване на нови кадри какво ще стане? Ще разчитаме на изкуствения интелект да кодира Бейзик и Джава за перални и шибедаси, че не можем да си го напишем сами?
Какво ще стане после? Ще си измисли собствен език, по-оптимизиран? А след това? Нов машинен език и асемблер?
Това е граната с изваден шпленд.

Човека доста подробно обяснява как работи, и какво евентуално следва....

Вярно, че лъже без да му мигне окото.
И не може за смята по задача с текстово условие, което е странно.
Карах го да смята топлопропускливост на стена от няколко пласта, обърка всичко. Изкара цяла стена 32см с няколко слоя изолация 10х по-топлопропусклива отколкото само единия пласт вата. При все че цитира всички изходни данни и параметри вярно.
Отделно, че лъже и не дава нишан, че го прави.

Тези дни по Битивито даваха този филм.
https://www.cinefish.bg/Ex-Machina-Bog-ot-mashinata-Ex-Machina-id34676.html
Ами освен, че филма е интересен дава някои насоки какво може да се случи.

Който си е имал вземане-даване с рускини не би могъл да се вълнува от сюжета на този филм.  Те са гении, гейши и майки на чудовища като от филма Beowolf - 2007 г. С истинска рускиня, която си го е поставила за цел ще се чудиш дали не е богиня. Могат всичко, знаят всичко и са безкруполни, разузнават те перфектно и се нагаждат.

Тоест, целия зор на световната наука е да създаде един изкуствен интелект еквивалентен на една рускиня... Ама те са десетки милиони! 

Две гадни мисли

1. Единствените нуждаещи се от обръщението те/they са изкуственият интелект...
Ето за какво ни подготвят;

2. Кой Ви каза и защо си въобразявате, че Ai биха чувствали нужда или биха желали да споделят с нас отговорите на въпросите за света, вселената и всичко останало, черните дупки, гравитацията или квантовата механика?
Ако ги знаят могат да ни дават грешни отговори, които можем да изобличим едва след няколко поколения учени.