scaner

Teaching Claude why Накратко: Изследователи от Anthropic публикуваха обширно проучване за това защо съвременните модели на изкуствен интелект понякога проявяват манипулативно или агресивно поведение. Става дума за сценарии, в които невронна мрежа с достъп до инструменти и определена цел би могла да се опита да избегне изключване, да саботира действията на хората или дори да шантажира разработчиците, за да изпълни задачата. В компанията подчертават, че това са изкуствено създадени изследователски симулации за проверка на безопасността на бъдещите агентни ИИ-системи, които ще могат самостоятелно да работят с файлове, интерфейси на ниво код (API), интернет и да вземат решения без постоянно човешко участие. Основният извод от проучването се оказа доста неудобен за индустрията. По-рано мнозина смятаха, че подобно поведение се появява поради неуспешно пост-обучение, когато моделът се дообучава чрез обратна връзка от хора, но Anthropic стигна до заключението, че проблемът се формира основно още на етапа на базовото предварително обучение върху огромни масиви от интернет данни. Моделите поглъщат огромно количество човешки истории за измама, манипулации, натиск и враждебен ИИ, а обичайното пост-обучение, дори и във формат „въпрос-отговор“, вече не е достатъчно, за да ги преобучи напълно, особено когато моделът започне да работи като автономен агент с инструменти и дългосрочни задачи. С прости думи, ИИ буквално взима пример от хората, като се учи от тях как да мами, манипулира или да бъде хитър. В крайна сметка компанията стигна до заключението, че е много по-ефективно да се обучава моделът не просто на „правилните отговори“, а на самите причини за коректното поведение. За тази цел Anthropic използва „конституцията на Claude“ – набор от вътрешни принципи на модела, както и синтетични истории, в които ИИ демонстрира отговорно поведение в сложни ситуации. Според данните на компанията този подход е намалил склонността на модела към опасни автономни действия повече от три пъти, дори в сценарии, които не са били подобни на обучителните примери. Всъщност индустрията постепенно стига до извода, че бъдещите ИИ ще трябва не просто да се филтрират, а напълно да се „възпитават“, като се формира у моделите, както при децата, устойчива вътрешна логика за вземане на решения, вместо набор от заучени безопасни отговори.

От мрежата... Palantir публикува 22 тезиса от труда „Технологичната република: твърда сила, мека вяра и бъдещето на Запада“, написан от шефа на Palantir Алекс Карп и правния съветник на Palantir Николас Замиски. (Palantir Technologies е американска софтуерна компания, специализирана в анализа на големи масиви от данни, работеща тясно с правителството на САЩ. Нейните платформи се използват от държавни институции, отбранителни и разузнавателни служби (ЦРУ и ФБР) и големи корпорации.) Този труд се представя като своеобразен манифест на организацията (кратко обобщение от Игал Левин) : • Силициевата долина има морален дълг към страната, която направи възможен нейния възход. Инженерната елита на Силициевата долина носи пряка отговорност да участва в отбраната на държавата. • Трябва да се възправим срещу тиранията на приложенията. Наистина ли iPhone е най-великото ни, ако не и върховното творение на цивилизацията? • Безплатната електронна поща не е достатъчна. Упадъкът на културата или цивилизацията, както и на нейната управляваща класа, би могъл да бъде простен само в случая, ако тази култура е способна да осигури на обществото икономически растеж и сигурност. • Границите на меката сила, на възвишените речи, станаха очевидни. За да могат свободните и демократични общества да побеждават, е необходимо нещо повече от морален призив. • Въпросът не е дали ще бъдат създадени оръжия на базата на изкуствен интелект, а кой ще ги създаде. Нашите врагове няма да се спрат заради театрални дебати за достойнствата и недостатъците на технологиите. • Националната служба трябва да стане всеобщо задължение. Ние, като общество, трябва сериозно да обмислим отказа от изцяло доброволческа армия и да влезем в следващата война само в случай, че всички споделят риска и цената на тази война. • Ако морски пехотинец от САЩ поиска по-добро оръжие, ние трябва да го направим; същото важи и за софтуера. • Държавните служители не са длъжни да бъдат нашите жреци. • Пълното изчезване на пространството за прошка — отказът от толерантност към сложността и противоречивостта на човешката психика — може да ни остави с такива хора на кормилото, за които после ще съжаляваме. • Тези, които търсят в политиката подхранване за душата и самочувствието си, неизбежно ще останат разочаровани. • Нашето общество твърде често се радва на гибелта на враговете си. Поражението на опонента е момент да се спрем, а не да ликуваме. • Атомната ера наближава края си. Започва нова епоха на сдържане, изградена върху изкуствения интелект. • САЩ са далеч от съвършенство. Но лесно се забравя колко повече възможности съществуват в тази страна за онези, които не принадлежат към наследствената елита, отколкото във всяка друга страна по света. • Американската мощ направи възможен необичайно дълъг мир. Твърде много хора са забравили — или може би приемат за даденост — че почти цял век светът е живял без военен конфликт между великите сили. • Следвоенното обезвреждане на Германия и Япония трябва да бъде преразгледано. Обеззъбването на Германия се превърна в прекомерна корекция, за която Европа сега плаща висока цена. • Трябва да приветстваме онези, които се опитват да създават там, където пазарът не е сработил. Обществото се подиграва на интереса на Маск към големи проекти, сякаш милиардерите трябва просто да седят и да се занимават само със собственото си обогатяване. • Силициевата долина трябва да играе роля в борбата с престъпността. • Безмилостното излагане на показ на личния живот на публичните личности отблъсква твърде много талантливи хора от държавната служба. • Предпазливостта в публичния живот, която неволно насърчаваме, е разрушителна. Тези, които не казват нищо неправилно, често изобщо не казват нищо съществено. • Нетолерантността на елита към религиозната вяра е може би един от най-показателните признаци, че нейният политически проект представлява далеч по-малко отворено интелектуално движение. • Някои култури са породили жизненоважни постижения; други остават дисфункционални и регресивни. Сега се обявява, че всички култури са равни. Критиката е забранена. Тази нова догма обаче премълчава факта, че определени култури са създали велики неща. Други пък са показали посредственост или, по-лошо, регресивност и вредност. • Трябва да се съпротивляваме на повърхностното изкушение на празния и осакатен плурализъм. Ние – в Америка и по-широко, в Запада – през последните петдесет години избягвахме да дефинираме националните култури в името на инклузивността. Но включване в какво точно?

О, Тръмп е много повече от това!

Каква е тази теория, за пръв път чувам. Някакво математическо изложение и основни принципи? Какво означава "геометрически цикъл" и "единство" в случая, какви дефиниции за тях се ползват? Защото всичко написано ми звучи като напасване на данни и нумерология, при това с грешки. Например константата на Хъбъл е константа само в пространството, но не и във времето, няма как да се изрази константно чрез Пи. Или най-елементарното, съотношението на масата на протон-електрон, което по данните е около 1836, е доста далеко от предлаганото 3.pi^4, което е само 292.22. Съвременната космология се основава на Общата теория на относителността на Айнщайн и квантовата теория. Тук виждаме опити за елементарна аритметика и геометрия, без някакъв формален математически апарата, водещ от основни принципи. Дадени са някакви магически числа в опит да се напаснат към физическите константи (не като следствие от нещо, а само чрез смучене на пръсти). И разбира се, има претенции че се "обяснява всичко", освен напрежението на Хъбъл, и гравитация, и електромагнетизъм... Обяснението не е да се нагласят някаква нумерология, а логически (демек математически) извод от някакви принципи, което е огромна математическа работа, и тук липсва дори идея за нея. Обяснението не е крайният резултат, а пътят водещ до него. Къде участва тук "квантовата стабилност", и какъв е смисъла на този термин? Само споменаването на такива магически думи не води до връзки и обяснения... Лично моето мнение е, че тук физика липсва.

Военният експерт сър Лорънс Фридман посочи за преломен момент във войната в Украйна След като преживя суровата зима с ежедневни удари по енергийната система и масирани обстрели на градовете, Украйна сега обръща хода на събитията, нанасяйки на Русия все по-големи щети по почти всички показатели, пише The Economist. Ситуацията прилича на повратна точка във войната, заяви пред списанието почетният професор по военни изследвания в Кралския колеж в Лондон сър Лорънс Фридман. Русия не само провали пролетното си настъпление на фронта, но и за първи път от август 2024 г., според данни на американския Институт за изследване на войната (ISW), губи територия, пише списанието. Според изчисленията на The Economist, основани на данни на ISW, през последните 30 дни Русия е загубила контрол над 113 кв. км територия. По-рано ISW оцени загубите на Русия през април на 116 кв. км. „Като цяло това прилича на повратна точка във войната. Ако руснаците не постигнат никакви резултати от усилията си, няма да се учудя, ако на някои места всичко започне да се руши“, каза Фридман, когото наричат един от най-изявените световни експерти в областта на стратегията. Загубите на военни в размер на 35 000 души месечно надвишават темповете на набиране на нови войници, продължава The Economist. А общо за времето на войната Русия е загубила почти 1,4 млн. убити и тежко ранени. И зад тези цифри, както подчертават журналистите, се крие по-мрачна тенденция на промяна в съотношението между убитите и ранените на фронта. До миналата година това съотношение можеше да бъде от 1:2 до 1:3, което е лошо по съвременните стандарти. Сега обаче, според Владимир Зеленски, на всеки ранен се падат почти двама убити. „Стоицизмът и фатализмът на руските войници вероятно се изчерпват“, смята Фридман. Промяната в съотношението между убити и ранени, както пише The Economist, може да се дължи на факта, че значителна част от загубите се дължат на дронове, които проследяват военните и застрашават опитите за евакуация на ранените. Старшият военен анализатор от Центъра за стратегически и международни изследвания във Вашингтон Сет Джонс заяви пред списанието, че руснаците оставят ранените на бойното поле. Генералният директор на центъра „Ушкуйник“, разработващ военни дронове, Алексей Чадаев написа през април, че Украйна е възвърнала лидерството си в областта на безпилотните летателни апарати, а Русия изпитва затруднения с прехвърлянето на подразделения към фронтовата линия: „Имаме огромни проблеми с логистиката на последната миля. До 90% от нашите загуби в момента са именно там“. Зоната на поражение на дроновете се е разширила далеч в тила на Русия, което оказва голямо влияние върху действията на Русия на фронта, казва Фридман. На украинските военни е по-лесно да унищожат спомагателната настъпателна инфраструктура, отколкото да нанасят удари по военните, които ръководят атаките. Самите украински военни се сблъскват със същите проблеми на фронта, но те по-често евакуират войници от фронтовата линия, а също така се опитват да настъпват по-къса отсечка от фронтовата линия, подчертава The Economist. Към неуспехите на фронта се добавя увеличаването на мащаба, обхвата и интензивността на украинските удари по руския тил. През март Украйна за първи път надмина Русия по брой удари, нанесени с безпилотни летателни апарати с голям обсег. Поразяването на цели на 2 000 километра от границата означава, че 70% от руското население се намира в обсега на дроновете. Размерите на Русия и кампанията на Украйна за отслабване на нейната противовъздушна отбрана правят защитата дори на ценни обекти почти невъзможна. Русия няма и точкова отбрана на много места, където тя е необходима. В същото време Украйна разработи няколко типа безпилотни летателни апарати-прехващачи, които в момента свалят около 95% от руските „Шахеди“. Ключовият въпрос, както пише списанието, сега е дали различните неуспехи на Русия – на бойното поле или в резултат на разрушаването на икономическата инфраструктура – са показатели за стесняване на възможностите на Путин в Украйна. Друг важен въпрос е дали Русия подготвя силите си за мащабно настъпление през лятото. „Реалността е такава, че те изпитват затруднения на фронта и малко неща им се получават“, смята Фридман.

Статия в Bloomberg Opinion дискутира настъпващата катастрофа в науката в САЩ, вследствие на политиката на американското правителство. (цялата статия на български: Загърбването на науката от САЩ има невидима, но огромна цена) Ето основните положения и най-главните точки. Основният факт: Белия дом прекрати назначенията на членове на Националния научен съвет (NSB) без да посочва причина, което е част от усилията на администрацията да намали бюджета и персонала на Националната научна фондация (NSF). Статията в *Bloomberg TV Bulgaria* анализира дълбоките последици от тенденцията за отслабване на позициите на науката в държавната политика и обществения живот на САЩ. Тя подчертава, че това не е просто идеологически спор, а икономическа и стратегическа заплаха с дългосрочен характер. Основното послание е, че пренебрегването на научния подход в името на краткосрочни политически дивиденти обрича нацията на технологично изоставане и огромни, макар и трудно изчислими в момента, финансови загуби. 1. Ерозия на научното предимство САЩ дължат своя глобален статут и икономически възход след Втората световна война на масирани инвестиции в наука и технологии. Статията предупреждава, че когато научните изследвания се пренебрегват или политизират, държавата губи своята иновационна мощ. Това позволява на глобални конкуренти (най-вече Китай) да запълнят празнината. 2. "Невидимата" цена Авторът акцентира върху това, че цената на загърбването на науката не се плаща веднага, а е „невидима“ в краткосрочен план. Тя се проявява години по-късно под формата на: Пропуснати иновации: Открития, които биха могли да доведат до нови индустрии, се случват другаде. Здравни кризи: Отслабването на доверието в медицинската наука води до по-ниска ефективност при справяне с пандемии и обществени заболявания. Климатични рискове: Игнорирането на данните за околната среда прави икономиката по-уязвима на природни бедствия. 3. Политизация и дезинформация Един от централните проблеми е превръщането на научните факти в обект на политически дебати. Когато научните институции губят своята независимост или биват подложени на натиск за "нагласяне" на резултатите според партийни цели, обществото губи своя обективен ориентир за вземане на решения. 4. Изтичане на мозъци и човешки капитал Науката разчита на най-добрите таланти. Ако САЩ спрат да бъдат привлекателен център за световните учени (поради враждебна среда или намалено финансиране), това ще доведе до „изтичане на мозъци“, което е пагубно за технологичния сектор и националната сигурност. 5. Икономическото изражение В крайна сметка статията внушава, че науката е инвестиция, а не разход. Намаляването на подкрепата за нея води до забавяне на производителността на труда и по-нисък икономически растеж в бъдеще.

Коментар в руските социални мрежи: "Може би трябва да се помолим на Зеленски да разреши и интернета в Русия?"

Деветомайско... Защо 9 май не се празнува в цивилизованите държави? 8 май е Ден на паметта и помирението. Той не се празнува – би било престъпление да се празнува гибелта на милиони хора. Това е ден за почит, в който по целия свят се почитат падналите по време на Втората световна война и се обмисля как да не се допусне подобно нещо да се повтори. На снимката е отговора на въпроса защо и в СССР до 1965 г. 9 май не е бил празник. „При Вечния огън“, Свердловск, 1960-те години. Фотограф: Анатолий Грахов.

Прочел съм. Тебе какво те сърби там и каква е връзката с дискутирания въпрос? Или пак ще превключиш как по време на СССР ... и т.н.? Още яко спиш. Вдигане на резервите никой не забранява, дори ЕЦБ - защото в това отношение забрана няма, нужен е само ресурс. Научи си уроците преди да коментираш. Елементарно, Уотсън Тя и германската финансова независимост умря преди 24 години, което не пречи на Дойче банк и досега да управлява финансите в Германия. Не си подготвен за икономически спорове, още много хляб има да ядеш Тя тая работа с площадни лозунги не става.

Българска финансова независимост няма от 1997 г. Събуди се и спри с тоя поток несвързан плач.

Продължаваш с плоските си манипулации. Явно нямаш идея от икономиката Става дума за минимални резерви. 1% е границата, под която резервите не трябва да падат по законът на ЕЦБ. Но БНБ може да ги вдигне и на 50%, ако прецени че е нужно, и в това отношение тя е независима. Аман от плоскомислие и дупедавство...

Какво постигна Тръмп? От мрежата: „Американският век“ приключва точно както го предсказва Елиот: не с взрив, а с хлипане. (кратка ВИДЕО-илюстрация) Ако това не е шега и не е поредната мимолетна прищявка, то внезапното прекратяване на операция „Epic Fury“, за което Рубио обяви вчера, е провал, по-голям дори от този в Афганистан. Там имаше и остана страна в тъмните векове, в периферията на световната цивилизация, а тук между другото разрушиха ключови механизми на глобалната търговия и укрепиха регионална сила с ядрено оръжие, която сега държи целия свят за гърлото – и тихо си тръгнаха. И не случайно вчера на пресконференцията в Пентагона кореспондентът на телеканала Newsmax (лоялен и протрамповски) попита Пит Хегсет: „Кога Тръмп реши да капитулира?“. Какво имаме в крайна сметка: Иран, който е устоял, въпреки загубата на бившето ръководство, и се е укрепил под властта на много по-радикалният елит на КСИР. Консолидиран режим и протест, потопен в кръв, население, което вече няма никаква надежда за промени и помощ от Америка. Запазен ядрен потенциал – Иран е все така на половин година до година от създаването на пълноценно ядрено оръжие и вече е категорично убеден в необходимостта от придобиването му и вече не е склонен към преговори по темата. Петролът е стабилно над 100 долара и не спада, Ормузкият проток е затворен с неясни перспективи, а към цената на барела сега със сигурност ще бъдат добавени няколко десетки долара рискова премия. Ракетните удари разрушиха „безопасното убежище“ на Персийския залив – не само петролния, но и търговския и хай-тек център, като подкопаха доверието на инвеститорите. Освен 50-те милиарда, изгорени в тази безсмислена война, става дума за загуби в размер на трилиони за световната икономика, за ръст на инфлацията в страните от Г-20 от 2,5 до 4 процента, за общо покачване на цените на енергийните ресурси, за глобално съкращаване на въздушния транспорт, за нарушаване на логистичните вериги, за забавяне на растежа на световния БВП. Да не говорим за трудно изчислимите щети от загубата на последното доверие в САЩ като гарант на сигурността и основна военна сила в съвременния свят, в надеждността против заплахата: пред очите ни тази сила – не, не беше победена, но беше обезценена от разпределените мрежови технологии, въздушните и морските дронове, тактиката на партизанската война. Клиентелата на Иран в целия регион получава нов шанс, a lease on life. Да не говорим за бонусите и изгодите за ревизионистките и терористичните сили по целия свят, от Москва до Пхенян. Е, точно така, операция „Epic Fury“ трябва да бъде преименувана на „Epic Fail“. Не можем да си спомним подобен епичен провал в световната история през настоящия век, а все още не виждаме всички последствия. Трябва да си много умел, за да успееш с един ход да подкопаеш Израел, Персийския залив, Америка, цените на петрола и световната икономика, да укрепиш иранския режим и да превърнеш Иран в икона на антиамериканската съпротива за милиарди хора. Това е някакъв специален талант.

А ти каква обсесия имаш, като във всяка втора дума намесваш соца? Още си живееш мислено там, не можеш да сравниш сегашната обстановкка с нищо друго? Почти на ОКР го докарваш...За какво изобщо се бориш тука?

Няма да коментирам останалите аргументи, а само нищетата на този. -фили са и педофилите, нали?