Дали може изкуствения интелект да победи колективния разум на човечеството

[makebulgar]

Казусът е следния.

Знаем, че компютърните програми са доста добри на шах, като имат коефициент ЕЛО близо до 3800, което е с 1000 повече от най-добрите шахматисти. Въпросът е дали най-добрите примерно 20 или 50 шахматисти в света, събирайки се в колектив, ще успеят да победят кампютърните програми или най-добрите изкуствени интелекти. Или какво би станало, ако всички шахматисти по света се обединят и играят заедно срещу програмите. Вроятно, колкото повече шахматисти мислят върху партията толкова повече ходове напред ще могат да предвиждат, а това означава, че колективния им разум би трябвало да може да побеждава ако не лесно то поне редовно програмите и да достигне ЕЛО много над това на програмите. И ако ги бием на шах ще е лесто да ги бием и на бойното поле, където машините обикновено се унищожават лесно.  

В този ред на мисли дали има смисъл да се плашим от изкуствените интелекти, при положение, че събирайки се в колектив хората могат да решават често толкова сложни проблеми, които няма да са по силите на изкуствените интелекти. Колективния разум на хората ги е изпратил в космоса в търсене на неизвестното, докато изкуствените интелекти засега не мислят в такива мащаби. Дали ще им е достатъчно да прочетат цялата хилядолетна натрупана човешка наука и философия, за да решат да пътуват из космоса, или сами ще успеят за 3 седмици да стигнат до същите заключения.  

Редактирано 16, 2024 от makebulgar

[todorg]

Компютърните програми са създадени от хора.Това с ИЕ за мен  е някакво изкуствено нагнетяване на напрежението ,от маргинални групи опитващи се да нагнетяват напрежение сред хората ,заради най вече икономически интереси.Аз мисля ,че няма как да има ИЕ ,който да  е изцяло независим от хората. 

[Warlord]

Изглежда все още е възможно. След кратко търсене излиза, че сравнително наскоро ИИ е бил побеждаван, при това не от колектив, а от единични гросмайстори:

2023: Магнус Карлсен, световният шампион по шах, победи Leela Chess Zero, най-силният шахматен ИИ в света, в демонстрационен мач.
2023: Алиреза Фируджа, 19-годишен ирански шахматист, победи Stockfish, друг силен шахматен ИИ, в турнир.
2024: Хикару Накамура, американски шахматист, победи Leela Chess Zero в онлайн мач.

Накамура е с ЕЛО коефициент 2788 към момента. Въпреки, че съвременните суперкомпютри работят с гигантски бази данни и имат невъобразимо голям изчислителен капацитет, явно все още не могат да пресметнат всички възможни сценарии на една партия (10^123), в някои случаи просто е субективно дали един ход ще е по-полезен от друг и какви ще са последствията. Все още на ИИ му липсва въображение и абстрактно мислене, за разлика от човешкия ум, за който това са доста характерни черти.

Редактирано 16, 2024 от Warlord

[Кухулин]

Преди 1 час, Warlord said:

Изглежда все още е възможно. След кратко търсене излиза, че сравнително наскоро ИИ е бил побеждаван, при това не от колектив, а от единични гросмайстори:

2023: Магнус Карлсен, световният шампион по шах, победи Leela Chess Zero, най-силният шахматен ИИ в света, в демонстрационен мач.
2023: Алиреза Фируджа, 19-годишен ирански шахматист, победи Stockfish, друг силен шахматен ИИ, в турнир.
2024: Хикару Накамура, американски шахматист, победи Leela Chess Zero в онлайн мач.

Накамура е с ЕЛО коефициент 2788 към момента. Въпреки, че съвременните суперкомпютри работят с гигантски бази данни и имат невъобразимо голям изчислителен капацитет, явно все още не могат да пресметнат всички възможни сценарии на една партия (10^123), в някои случаи просто е субективно дали един ход ще е по-полезен от друг и какви ще са последствията. Все още на ИИ му липсва въображение и абстрактно мислене, за разлика от човешкия ум, за който това са доста характерни черти.

Не знам какви са тези мачове и турнири, но вероятно Лийла е играла без кон  

Няма как човек да бие компютър в пълната му сила. Математически 1000 пункта разлика в ЕЛО означават вероятност за победа 0.000000772

https://wismuth.com/elo/calculator.html

Това е все едно някой квартален играч средна ръка да спечели мач срещу гросмайстор. Може евентуално да спечели някоя партия... веднъж в живота си... ама много евентуално.

[Кухулин]

Преди 2 часа, makebulgar said:

Казусът е следния.

Знаем, че компютърните програми са доста добри на шах, като имат коефициент ЕЛО близо до 3800, което е с 1000 повече от най-добрите шахматисти. Въпросът е дали най-добрите примерно 20 или 50 шахматисти в света, събирайки се в колектив, ще успеят да победят кампютърните програми или най-добрите изкуствени интелекти. Или какво би станало, ако всички шахматисти по света се обединят и играят заедно срещу програмите. Вроятно, колкото повече шахматисти мислят върху партията толкова повече ходове напред ще могат да предвиждат, а това означава, че колективния им разум би трябвало да може да побеждава ако не лесно то поне редовно програмите и да достигне ЕЛО много над това на програмите. И ако ги бием на шах ще е лесто да ги бием и на бойното поле, където машините обикновено се унищожават лесно.  

В този ред на мисли дали има смисъл да се плашим от изкуствените интелекти, при положение, че събирайки се в колектив хората могат да решават често толкова сложни проблеми, които няма да са по силите на изкуствените интелекти. Колективния разум на хората ги е изпратил в космоса в търсене на неизвестното, докато изкуствените интелекти засега не мислят в такива мащаби. Дали ще им е достатъчно да прочетат цялата хилядолетна натрупана човешка наука и философия, за да решат да пътуват из космоса, или сами ще успеят за 3 седмици да стигнат до същите заключения.  

Разсъжденията ти не са симетрични. От една страна разглеждаш човешкия потенциал като количество и качество, а от друга страна разглеждаш ИИ само като качество. Въпросът е каква изчислителна мощ ще предоставиш на ИИ. А тази изчислителна мощ може да е практически безкрайна. Има теоретични ограничения по енергия и температурен баланс, но те са много високи.

 

[makebulgar]

Преди 2 минути, Кухулин said:

Разсъжденията ти не са симетрични. От една страна разглеждаш човешкия потенциал като количество и качество, а от друга страна разглеждаш ИИ само като качество. Въпросът е каква изчислителна мощ ще предоставиш на ИИ. А тази изчислителна мощ може да е практически безкрайна. Има теоретични ограничения по енергия и температурен баланс, но те са много високи.

Там е работата, че ИИ има безкрайна ичслителна мощ само на теория, а напрактика е по-малка. Колективния човешки разум обаче може да е огромен и съответно натрупва знания и се усъвършенства.

[Кухулин]

Преди 14 минути, makebulgar said:

Там е работата, че ИИ има безкрайна ичслителна мощ само на теория, а напрактика е по-малка. Колективния човешки разум обаче може да е огромен и съответно натрупва знания и се усъвършенства.

Не разбирам много добре постановката. Естествено, че при достатъчно ограничена изчислителна мощ ИИ ще е по-слаб от хората.

[ДеДо Либен]

Преди 28 минути, makebulgar said:

Там е работата, че ИИ има безкрайна ичслителна мощ само на теория, а напрактика е по-малка. Колективния човешки разум обаче може да е огромен и съответно натрупва знания и се усъвършенства.

Е те това подчертаното е нещо , което на практика не съществува , съответно няма как да е огромно.

п.с. даже в някои случаи колективния разум на тълпата е  ,,отрицателен,,

Редактирано 16, 2024 от ДеДо Либен

[Warlord]

Явно съм попаднал на някакъв фейк, сега при по-обстойно търсене намирам само, че Накамура е бил компютъра и то на блиц, но през 2008, оттогава разликата в капацитета на суперкомпютрите е космическа.

[Кибик]

Интелекта на колектив е по-скоро най-малък общ знаменател. Поради това теорията на относителността не е била писана от група съветски учени.

[Exhemus]

Преди 1 час, ДеДо Либен said:

Колективния човешки разум

През 1931 г. на немски излиза книгата с есета “100 автора срещу Айнщайн". Уви, колективният немски разум на Хитлеристите не обори теорията на относителността.     Значи, приносът на количеството и качеството не са в проста и строга пропорция.  В един случай количството помага, в друг - не.

Човешкият разум е резултат от еволюция и никак не е оптимален. Еволюцията се стреми да постигне предимство на всяка цена. В моомента в който го постигне, тя повече няма интерес от усъвършенстване. На програмистки език казано: окончателната програмата не е изчистена от тестов код и мъртви остатъци. Освен това тя не се оптимизира по тая линия. Оптимизира се, чрез добавяне на нови неща най-често.

Така че, разумът влачи със себе си несъвършенствата от еволюцията. ИИ не е задължен да го следва (въпреки, че невронните мрежи копират естествените невронни мрежи) но има и Експертни системи, основани на продукционни правила, които са вид ИИ и не копират природата. Поради причината, че ИИ не е задължен... то той може да надмине естествения И,  при доста по-малка компютърна мощ. Тук сметките за брой неврони, брой синапси са неадекватни.   Ще видим  

  Друг аспект е, че взаимодействието интелект - среда може да се окаже много съществено. Естественият интелект не може да се разглежда без много важният орган "ръка".  Мозъкът на делфините е по-голям от човешкия, но без ръката не е постигнал особен напредък.

Може би имат тази възможност - Веднъж гледах "волейболен мач" между делфини и хора във варненския делфинариум. Делфините ме изкефиха, как финтираха хората и с двойно подавне им забиха  

.....

   Чудим се дали ИИ ще ни надмине, но той вече ни е надминал! Той ни трепе по бойните полета, той контролира мозъците ни, чрез смартфоните без да се усещаме. Но на самия него това не му трябва. В края на краищата той обслужва някакви хора. Кои са тези хора? Дали са най-умните сред нас? Дали са най-човеколюбивите сред нас? Това е въпросът?

Вие на какво мнение сте?

 

[Втори след княза]

Колективният разум е раздиран от противопоставяне, глупост, интереси. ИИ лесно ще го победи.

Каквато и тема да захванем, започва надхващане, а не съвместност.

Трябва да се научим на култура на съвместен умствен труд, или загиваме като интелект- РаТка Пиратка с две гроздови срещу ИИ. 

[orlogin]

Преди 41 минути, Exhemus said:

 Чудим се дали ИИ ще ни надмине, но той вече ни е надминал! Той ни трепе по бойните полета, той контролира мозъците ни, чрез смартфоните без да се усещаме. Но на самия него това не му трябва. В края на краищата той обслужва някакви хора. Кои са тези хора? Дали са най-умните сред нас? Дали са най-човеколюбивите сред нас? Това е въпросът?

Вие на какво мнение сте?

Да, надминал ни е само в определени насоки, но никога няма да постигне пълно превъзходство над човека. Трепе ни по бойните полета и контролира мозъците ни по решение на някакви хора, които стоят зад контрола и управлението му. Интелигентността и човеколюбието не винаги вървят ръка за ръка, следователно не можем да очакваме само добронамереност в приложенията на ИИ.

[orlogin]

Преди 36 минути, Втори след княза said:

Колективният разум е раздиран от противопоставяне, глупост, интереси. ИИ лесно ще го победи.

Каквато и тема да захванем, започва надхващане, а не съвместност.

Ако говорим за колективния разум в България, това може да важи, но има значителни разлики в други региони по света. Под колективен разум не разбирам само наличния разум в момента, който има някакво противопоставяне. Исторически погледнато съществува натрупване и надграждане. Редица открития и разработки са постигнати именно чрез надграждане на постигнатото от предходен колективен или индивидуален разум. Колективния разум е сумата от разума на всички поколения преди нас. 

[Кухулин]

Преди 8 часа, Втори след княза said:

Колективният разум е раздиран от противопоставяне, глупост, интереси. ИИ лесно ще го победи.

Каквато и тема да захванем, започва надхващане, а не съвместност.

Трябва да се научим на култура на съвместен умствен труд, или загиваме като интелект- РаТка Пиратка с две гроздови срещу ИИ. 

Това зависи от схемта, в която е поставен да работи този колективен разум. Специално в шаха тези схеми са много добре отработени - зад всеки водещ шахматист стои екип от гросмайстори, които му изработват стратегии, варианти и т. н. Хипотетично всички шахматисти могат да се обединят в такъв  екип и да проведат експеримента на makebulgar. Дали ще бият Стокфиш на някой среден десктоп... съмнявам се. Да не говорим, че има изкуствени  интелекти с неясна сила, но много, много голяма. Гугъл псна един мач с Алфа Зиро и веднага го засекрети. Сигурно го прилапаха военните.

Та глупостта на колективния разум не е негова иманентна характеристика, а е резултат от схемите и условията, в които е поставен. Понякога самите схеми са доста глупави.