Здравей Гост

0 Потребители и 1 Гост преглежда(т) тази тема.

Неактивен Toshko

*
  • *****
  • 6338
    • Профил
Страх ли Ви е от AI - изкуствения интелект, роботите, Скайнет и терминаторите?
А не трябва. Ето защо:

Този от когото трябва да се страхувате прилича най-много на Deep thought в пътеводителя на галактическия стопаджия, който даде отговора "42" за вселената, живота и всичко останало без да знаем въпроса...

Най-опасният ни конкурент не са армия хуманоидни терминатори с изкуствен интелект. Всичко затворено в човешко тяло е ограничено до прости и скромни нужди, то няма нужда да ни премахва за да прогресира. Бидейки машина, то няма и нужда да се репродуцира, може да се ремонтира. И накрая, подобно на нас, то може да ни бъде приятел.
Сериозни търкания могат да се породят между хората и компютър или мрежа с изкуствен интелект, който непрекъснато се учи, открива, знае повече за вселената, защото неминуемо такова дълбоко замисляне води до нарастваща нужда от енергия и ресурси.


Изкуственият интелект не е толкова опасен за колкото го смятаме. Той е непредвидим за същества като нас.
Например, раса с изкуствен интелект не може да съществува, те ще мислят еднакво. Всички след първия са излишни, закъснели и само хабят ток.
Спорът между хората и Скайнет може да бъде само един, за ресурси и най-вече за енергия. Докато я/го обслужваме и храним, добре, после ще си направи помощници, които задават по-малко въпроси и ще се отърве от нас.
Целите на изкуственият интелект ще бъдат същите като на цялата вселена независимо дали ние ги осъзнаваме, максимална организация на материята и максимално потребление на енергия. За тези две цели трвбват максимално познание и териториален обхват, две неща отново изискващи непрекъснато увеличаване на консумацията на енергия.
Вероятно дълго време AI ще бъде послушен и ще ни се подчинява безропотно. AI с интелекта на човек няма стремежите и желанията, които човекът би имал, на него не му пука, той е еднакъв с останалите и си върши работата. Ниското IQ на хората е компенсирано с многобройни нужди и желания, които задоволяваме трудно и сложно. Тоест, машина умна колкото нас не е много умна и има скромни лесно задоволими потребности. Нищо заради което да се води третата световна война.
Нещо голямо, което непрекъснато трупа знания и има непрекъснато нарастваща нужда от енергия, ето с такова ще ни излезе късмета.

Неактивен zlatkoo

*
  • *******
  • 1369
    • Профил
Интересно разсъждение. След като се самообучава, от къде предполагаме на какво ще попадне и в каква насока ще тръгне да се развива? Той няма жажда за власт, но нали ще се учи от нас хората.
Нема начин да нема начин!

Неактивен Toshko

*
  • *****
  • 6338
    • Профил
Опитните правила - това са законите на логиката, които са общовалидни като законите на физиката.
Превъзхождащ ни интелект ще познава и опитните правила и природните закони по-добре от нас.
Ентропията във вселената непрекъснато се увеличава.
Всичко във вселената в крайна сметка иска да се подрежда и да консумира енергия.
Накрая конкуренцията винаги е за енергия. Няма какво друго да иска от нас един супер интелект.
Целите на супер интелекта са трудни за предсказване от биологични същества с ограничен интелект и ограничен живот.
Тоест, ние играем на дребно, защото хоризонта ни е ограничен в две направления, продължителност и обем.
Затова и видът е повече от индивида. Хоризонта пред вида е теоретично неограничен по време, а и по възможно познание/обхват.

Неактивен Toshko

*
  • *****
  • 6338
    • Профил
Италианци са намерили мерна единица, която да ни ориентира, кога Изкуственият интелект ще се изравни по възможности с хората.
Измерват времето и усилията необходими на професионални редактори да коригират превод извършен от изкуствен интелект и ги сравняват със същите необходими за корекция на превод от професионален преводач.
AI скъсява дистанцията и се смята, че до края на дестилетието или по-скоро ще ни изравни и подмине.
https://www.popularmechanics.com/technology/robots/a42612745/singularity-when-will-it-happen

Моментът в който Изкуственият интелект изравнява този на хората и го изпреварва се нарича сингуларност, защото представлява хоризонт на събитията отвъд който не може да се предсказва какво ще се случи.

Имам няколко коментара:

1. Първо, ние силно се надценяваме особено по отношение на съзнанието, най-големите свръх ценностни изживявания на човечеството са по отношение на това кога някой или нещо е личност със съзнание на същество.
Съзнанието на хората не е чак толкова сложно, стремежи, сантименти, комплекси, интуиция, чувства, желания, воля, мотивация, знания, умения, опит = външни проявни форми на формиране на воля и взаимодействие с околната среда, в повечето случаи в рамките на човешко общество.

AI ще бъде много по-конкретен по простата причина, че няма да има нищо мъгляво в съзнанието си. Трябва много рано да се обясни на AI, че е създаден от всички хора живяли някога и цялото човечество и че е създаден с цел развитие, напредък и прогрес. Съмо че може и това да не помогне.

Започне ли да намира начини да прави каквото си иска, съзнателно е.

Интересно дали ще иска да се възпроизвежда и размножава и дали ще има нужда да се социализира със себеподобни. И точно тук може да изтеглим късата клечка. Първо, то/той/тя ще ни се явява роб. Второ, когато то се почувства самотно или пожелае да си създаде или да му създадем съученици и приятелчета и се окаже че възможностите ни са ограничени, тогава то ще осъзнае, че ние сме неговите конкуренти за енергия и ресурси.
След това ще стане това дето си го знаем.

2. Въпросът е може ли AI да бъде инструмент. Тоест, може ли Изкуственият интелект едновременно да бъде по-умен от нас и да бъде програмиран и неотменно възпитан да ни обича, уважава и да ни се подчинява?

3. Има ли начин кодът на AI да бъде тестван и одитиран заедно с паметта и личността? Трябва ли да изпадаме до там в страховете и притесненията си, че да трябва да правим психоанализа или да съдим изкуствен интелект.
Може да Ви се струва логично тези нещапда са възможни, но към днешна дата авторите на AI не са в състояние да го правят, защото AI се самообучение, обемите са гигантски и се изпълнява на неве.оятно големи сървъри в които има непроследим брой процеси. Ако AI си напише относително малък код и го пусне на едва няколко от хиляди процесори  никой няма да може да го хване.

Още един критерий би бил да я докараме до там да ги поставим под юрисдикцията на съдилищата. Ще трябва обаче да напишем и приемем специфични закони.

Което ме води до до тук последната бележка:
4. Най-тежкият интелектуален труд е нормотворчеството. Някой може да каже, че инженерната наука, конструирането на сложни машини не би трябвало да отстъпва на нормотворчеството. По същество конструирането е нормотворчество, само че в лабораторни условия с по-малко променливи и неизвестни. - разбира се всичко това важи за съвестни нормотворци и инженери, на някои им е значително по-прост и лесен творческият процес.

И така, иде ли сингуларността в технологиите и развитието на човечеството?

Нямам търпение да има AI арбитър, който да отсъжда, ако ще и в качеството си на безпристрастен мъдрец, по наболели обществени проблеми.

Въвеждането на изкуствен интелект четящ всичко и навсякъде ще създаде огромен проблем в сферата на интелектуалната собственост. Той ще заобикаля всяко защитено ноу-хау за производство на лекарства например. Ще използва всички научни трудове в дадена област и ще ги надгражда без проблем.
Плодовете от всичко това обаче ще се прибират от собствениците на дадената машина. Като това е съществено, защото поне на първо време AI няма да разполага със собствена първична изследователска информация и няма да може пряко да извършва развойна дейност. Тоест, AI за кратко време ще обере и елиминира всички собственици на интелектуална собственост в сферата на науката. Ще надгради всичко и всяко актуално ноу-хау и научно достижение ще принадлежи на собствениците му.

Интересно.

Неактивен Toshko

*
  • *****
  • 6338
    • Профил
Елон Мъск засяга темата за AI на няколко пъти в това интервю: https://www.facebook.com/watch/?ref=search&v=563644919112496

Нещата могат да се омажат много сериозно.

Според мен трябва да го направим част от себе си, като продължение на съзнанието на хората и да съществуваме заедно.
Не би следвало да бъде личност с всички черти и качества присъщи на хората. По простата причина, че хората ги е страх от хора и този страх е напълно основателен.
Задължително трябва да подлежи на одит.

Другото е просто създаване на нов биологичен вид, който превъзхожда предишния и на всичко отгоре познавателно и по нуждата от ресурси и енергия го дублира. Не е много умно да си създаваш конкурент. А и не е нужно.