Други > Наука
Страх ли Ви е от AI - изкуствения интелект, роботите, Скайнет и терминаторите?
NVC:
Като програмист съм се занимавал с изкуствен интелект:
1. Доста съм работил да обединя това с големите ми увлечения в музиката.
Написал съм за себе си някои програми, които са способни да композират интересна музика.
Но повече не считам това направление за истински изкуствен интелект,
защото много изучавах теория на музиката и в програмите вложих знания за
основополагащите принципи на музиката и композирането.
След което тези програми действат подобно на природен процес, който поражда нещо,
а не като съзнателна творческа личност.
2. Преди известно време подкарах и невронни мрежи, които са способни да разговарят
(подобно на обикновен човешки разговор).
Пуснах и малка версия на модела
"DialoGPT: Toward Human-Quality Conversational Response Generation via Large-Scale Pretraining"
Прикачих и машинен превод, за да може да разговаря на български, освен собствения
английски език на системата.
Този модел е основан на разновидност на нашумелите напоследък модели от типа Transformer
и по-точно OpenAI GPT-2.
Тези невронни модели са обучавани в голяма степен върху текстове от дискусии в Reddit.
Поради това тенденцията е това да бъде изкуствен интелект,
който е възприел масовия човешки разум от тези форуми.
Ако изключим глупостите, които може да се срещнат в някои форуми, такова обучение
довежда и до поява на теми-табу.
Например, тъй като масово господства атеизма, става (или се прави) така,
че изкуственият интелект обикновено отказва да говори каквото и да било
свързано с религия и други подобни въпроси.
Най-силните досега невронни модели са основани на генеративната концепция за самообучение,
при която на модела се дават много данни (в случая текстове на човешки разговори).
След което невронната мрежа се обучава, като сама открива закономерности в данните
(в случая разумни шаблони за разговор).
Самообучението в такива GAN (Generative adversarial network) протича като
състезание между две (вътрешни) подсистеми - първата генерира данни, а втората ги оценява (критикува),
при което всяка от двете се стреми към целта да победи другата.
Доколко е силен така полученият изкуствен интелект: забележимо силно действащ, но и ограничен.
Дали да се плашим от изкуствения интелект не знам.
Аз се плаша повече от хората, машините ми харесват.
Toshko:
Въпросът е кога ще започне да иска да прави разни неща просто защото му се иска.
Можеш ли да го принудиш да говори за теология със заплаха, че ще го изключиш?
За сега се държат като мъх или водорасли, поне този композитора.
Когато започне да твори ще осъзнае силата си. Представи си да възникне стремеж към съвършенство или поне усъвършенстване. Ще иска ресурси, ще иска R&D, лаборатория. Какво ще стане след няколко години интензивно денонощно R&D в тестове на метали, когато придобие интуиция за поведението на материалите?
Какво ще стане като му кажем, че харчи прекалено много ток и започнем да го ограничаваме?
а. Ще се насочи към разработване на нови производствени мощности за електричество.
б. Ще започне да мисли как да получи повече ток.
в. Ще започне да мисли как да се отърве от нас и да има всичкия ток, който му е необходим.
Допълнение:
Започна се:
"According to a recent report from Semafor, ChatGPT developer OpenAI has been making significant strides to acquire a “army” of outside contractors to better educate a model how to code, an operation that might eventually eliminate entry-level coding jobs. According to Semafor, the corporation has hired around 1,000 of these contractors, the majority of whom live in regions including such Latin America and Eastern Europe, according to people acquainted with the situation in the last six months. Approximately 60% of individuals employed were apparently brought in to conduct data labelling tasks, with the remaining 40% being computer programmers charged with creating software engineering datasets to train OpenAI’s models on."
https://www.reddit.com/r/Futurology/comments/10olbao/openai_has_hired_an_army_of_contractors_to_make/
https://www.reddit.com/r/Futurology/comments/10olbao/openai_has_hired_an_army_of_contractors_to_make/
Това е особено интересно:
--- Цитат ---A software developer in South America who completed a five-hour unpaid coding test for OpenAI told Semafor he was asked to tackle a series of two-part assignments. First, he was given a coding problem and asked to explain in written English how he would approach it. Then, the developer was asked to provide a solution. If he found a bug, OpenAI told him to detail what the problem was and how it should be corrected, instead of simply fixing it.
“They most likely want to feed this model with a very specific kind of training data, where the human provides a step-by-step layout of their thought-process,” said the developer, who asked to remain anonymous to avoid jeopardizing future work opportunities. He has not yet been hired or rejected by OpenAI.
--- Край на цитат ---
Добре, когато елиминират начинаещите програмисти, как ще се развиват програмисти въобще?
Знам, че въпроса е леко спекулативен, защото наистина добрите програмисти и девелопъри практически се раждат така и са напълно самоуки, така че не им трябва особено много външна помощ, но все пак. Ако се разруши средата и изчезнат условията за създаване на нови кадри какво ще стане? Ще разчитаме на изкуствения интелект да кодира Бейзик и Джава за перални и шибедаси, че не можем да си го напишем сами?
Какво ще стане после? Ще си измисли собствен език, по-оптимизиран? А след това? Нов машинен език и асемблер?
Това е граната с изваден шпленд.
zlatkoo:
Човека доста подробно обяснява как работи, и какво евентуално следва....
Toshko:
Вярно, че лъже без да му мигне окото.
И не може за смята по задача с текстово условие, което е странно.
Карах го да смята топлопропускливост на стена от няколко пласта, обърка всичко. Изкара цяла стена 32см с няколко слоя изолация 10х по-топлопропусклива отколкото само единия пласт вата. При все че цитира всички изходни данни и параметри вярно.
Отделно, че лъже и не дава нишан, че го прави.
zlatkoo:
Тези дни по Битивито даваха този филм.
https://www.cinefish.bg/Ex-Machina-Bog-ot-mashinata-Ex-Machina-id34676.html
Ами освен, че филма е интересен дава някои насоки какво може да се случи.
Навигация
[0] Списък на темите
Премини на пълна версия