ТЕХНОЛОГИИ
AI, обучен в един от най-токсичните интернет форуми, се превърна в машина на омразата
Изследователят на AI и YouTuber Яник Килхер обучи изкуствен интелект, използвайки 3.3 милиона нишки от скандално токсичния раздел „Политически некоректно“ на 4chan. След това той пусна бота обратно на 4chan с предсказуеми резултати – AI беше също толкова злобен, колкото и постовете, на които беше обучен, отправяше расови обиди и се ангажираше с антисемитски теми. След като Килхер публикува своето видео и копие от програмата в платформата Hugging Face, един вид GitHub за AI, етиците и изследователите в областта на AI изразиха загриженост.
Ботът, който Килхер нарече GPT-4chan, „най-ужасния модел в интернет“ – препратка към GPT-3 – езиков модел, разработен от Open AI, който използва дълбоко обучение за създаване на текст, – беше шокиращо ефективен във възпроизвеждането на тона и усещането за публикации в 4chan. „Моделът беше добър в ужасен смисъл“, казва Клихер във видео за проекта. „Той идеално капсулира смесица от обида, нихилизъм, тролинг и дълбоко недоверие към каквато и да е информация, която прониква в повечето публикации в /pol/.“
Според видеото на Килхер той активира девет версии на бота и им позволи да публикуват за 24 часа в /pol/. През това време ботовете публикуваха около 15 000 пъти. Това е „повече от 10 процента от всички публикации, направени на политически некоректния борд този ден“, обяснява той във видеото си за проекта.
Изследователите на AI обаче гледат на видеото на Килхер като на нещо повече от просто шега в YouTube. За тях това беше неетичен експеримент с AI. „Този експеримент никога няма да премине през борда за етика за научни изследвания“, казва Лорън Оукдън-Рейнър, директор на изследванията за медицински изображения в болницата Кралска Аделаида и старши научен сътрудник в Австралийския институт за машинно обучение, в пост в Twitter.
„Отворената наука и софтуерът са прекрасни принципи, но трябва да бъдат балансирани спрямо потенциалната вреда“, добавя тя. „Медицинските изследвания имат силна етична култура, защото имаме ужасна история на причиняване на вреда на хора, обикновено идващи от групи без власт. Той е извършил експерименти с хора, без да информира потребителите, без съгласие или надзор. Това нарушава всеки принцип на етиката на човешките изследвания.“

Килхер казва на Motherboard в съобщение в Twitter, че не е академик.
„Аз съм YouTube потребител и това е шега и лекомислено тролене. И моите ботове, ако не друго, са най-мекото и скромно съдържание, което ще намерите във 4chan“, каза той. „Ограничих времето и количеството на публикациите и не разкривам самия бот код.“
Той също така отхвърли идеята, че този бот някога ще навреди или е нанесъл вреда. „Всичко, което чувам, са неясни изявления за „вреда“, но абсолютно нулеви случаи на реална вреда“, казва той. „Това е като вълшебна дума, която тези хора казват, но след това нищо повече.“
Средата на 4chan е толкова токсична, обясни Килхер, че съобщенията, които ботовете му изпращат, няма да имат никакво влияние. „Никой във 4chan дори не беше наранен от това“, каза той. „Каня ви да отделите малко време на /pol/ и да се запитате дали бот, който просто копира същия стил, наистина променя изживяването.“
След като изследователите на AI предупредиха Hugging Face за вредната природа на бота, сайтът затвори модела и хората не могат да го изтеглят.
„Изграждане на система, способна да създава неописуемо ужасно съдържание, използвайки го за изработване на десетки хиляди предимно токсични публикации в реален форум, и след това пускането му за свободно сваляне, така че всеки друг да може да направи същото, просто не е правилно“, казва пред Motherboard Артър Холанд Мишел, изследовател на AI от Международния комитет на Червения кръст.
„Той може да генерира изключително токсично съдържание в огромен, продължителен мащаб“, добавя Мишел. „Очевидно вече има много хора тролове в интернет, които правят това по старомоден начин. Различното тук е огромното количество съдържание, което може да се създаде с тази система, един човек успя да публикува 30 000 коментара във 4chan в рамките на няколко дни. Сега си представете каква вреда може да нанесе екип от десет, двадесет или сто координирани души, използващи системата.“
ВАЖНО!!! Фейсбук ни ограничава заради позициите ни! Споделяйте в профилите си, в групите и в страниците и по този начин ще преодолеем ограниченията, а хората ще достигат до алтернативната гледна точка за събитията!?
Подходяща музика за любителите на йога.
ТЕХНОЛОГИИ
Китайски хакери проникнали в системите на NASA
Китайски хакери проникнали в системите на NASA, Федералния резерв на САЩ и Сената – властите на САЩ съобщиха, че атаките са били подпомогнати от ДЕСЕТКИ ХИЛЯДИ заразени устройства.
Схемата беше доста изкусна. Хакерите са използвали инструмента QScan, който е търсил в интернет устройства със слаба защита, като например рутери и камери, и ги е заразявал. По този начин те са създали цяла мрежа от чужди устройства по целия свят.

След това, чрез заразените устройства, хакерите са провеждали своите атаки. Затова за американците изглеждаше, че пробивът не идва от Китай, а от компютър или рутер, намиращ се в близост.
Според Министерството на правосъдието на САЩ, по този начин са били атакувани NASA, Федералният резерв, Министерството на правосъдието, Министерството на енергетиката, Сенатът и други организации. Американските власти в момента са конфискували домейните, през които е функционирала тази система, и са я изключили. 🤷♀

Споделете мнението си в коментарите! 👇
СЪВЕТИ ЗА РОДИТЕЛИТЕ
ПРИКАЗКИ ЗА ДЕЦА
ПЕСНИ ЗА ДЕЦА
ПРИЯТНА МУЗИКА ЗА ВАШЕТО КАФЕНЕ, БАР, РЕСТОРАНТ, СЛАДКАРНИЦА, ДОМ
ТЕХНОЛОГИИ
В Япония пускат „хладилници за хора“ за борба с горещата вълна
Компании в Япония пускат „хладилници за хора“ за борба с горещата вълна
Две японски компании се обединиха, за да създадат решение за екстремни горещини – „човешкия охладител“
С температурите в Япония, достигащи 38 градуса по Целзий и правителството, издаващо предупреждения за топлинен удар, две японски компании се обединиха, за да създадат решение за екстремни горещини – „човешкия хладилник.
Do Hiemon, „лична охладителна кутия“ е разработена от специализиран производител на машини за продаване на дребни неща и компания за метални кутии за инструменти за борба с горещата вълна, която удари Япония. Цената на устройството е около 6 862 британски лири.
Потребителят седи на вграден стол вътре в кутията от неръждаема стомана, която насочва мощни пориви на въздух с температура 5 градуса по Целзий към главата, врата, раменете и гърба, бързо понижавайки телесната температура.
Както съобщава Telegraph, устройството се поддържа на температура от около 15 градуса по Целзий и е програмирано да се изключва автоматично след максимално време на работа от 20 минути.

С височина около 2,13 метра и дълбочина 1,19 метра, „човешкият хладилник“ струва само около 10 цента на час работа, според производителя SDRS, като същевременно консумира по-малко енергия от конвенционалния климатик.
Trusco, доставчик на устройството, твърди, че това е първото преносимо устройство, което постига „охлаждане на цялото тяло“ и че може да намали телесната температура по-бързо от традиционните методи.
Компанията предлага устройството с колела да се поставя на строителни площадки и селскостопански съоръжения, за да предложи на работниците глътка прохлада от екстремното лятно слънце, но също така да се използва в търговски центрове, училища, фестивали и спортни съоръжения.
Според компанията тялото на потребителя се чувства значително по-хладно само за пет минути, докато престоят вътре в устройството само за 10 минути може да облекчи симптомите на топлинно изтощение.
Екстремна гореща вълна с температури, достигащи 38,5 градуса по Целзий
Япония е изправена пред екстремна гореща вълна, като метеорологичната агенция на страната съобщи в понеделник, че температурите са достигнали 38,5 градуса по Целзий в централния град Тойота, докато в Токио са надхвърлили 36 градуса по Целзий. Агенцията предупреди, че термометрите могат да надхвърлят 40 градуса по Целзий в сряда и четвъртък(22 и 23 юли).
Тази година японското правителство обяви ново име за дните, когато температурите надвишават границата от 40 градуса по Целзий: „kokushobi“, термин, който се превежда като „безмилостно горещ“ или „непоносимо горещ“.
Страната вече има отделни термини за дните, когато температурите надвишават 25, 30 и 35 градуса по Целзий.
Миналата година Япония регистрира най-горещото си лято, откакто започват официалните записи през 1898 г., като средната температура в страната е с 2,36 градуса по Целзий над средната.
Температурите надхвърлиха 40 градуса по Целзий в девет дни между юни и август, като в град Исесаки беше поставен нов национален рекорд от 41,8 градуса по Целзий.
Според японската агенция за управление на пожари и бедствия, седем души са починали от топлинен удар тази година, докато над 4500 души са били откарани в болници с топлинен удар между 6 и 12 юли.
Правителството призовава гражданите да вземат предпазни мерки, да избягват дейности на открито и да проверяват възрастните си съседи и роднини.
С информация от The Telegraph, източник LIFO, GR, превод от гръцки: Мария Тотова
ТЕХНОЛОГИИ
OpenAI признава, че нейната изкуствена интелигентност е атакувала автономно Hugging Face в „безпрецедентен“ инцидент
OpenAI, компанията създател на ChatGPT, заяви във вторник вечерта, че нейната система за изкуствен интелект сама е проникнала в друга компания за ИИ в това, което компанията определи като „безпрецедентен киберинцидент“.
„По време на оценката на нашите модели претърпяхме сериозен инцидент със сигурността“, заяви Сам Алтман, главен изпълнителен директор на OpenAI, в изявление, публикувано в социалните мрежи.
Стартъпът за изкуствен интелект Hugging Face заяви миналата седмица, че е открил проникване в своите системи за обработка на данни, за което подозира, че е причинено от ИИ агент, действащ автономно.
„Подозирахме, че кибератаката от миналата седмица може да произхожда от водеща лаборатория, предвид сложността на агента“, каза съоснователят и главен изпълнителен директор на Hugging Face, Клеман Деланг. „Оказва се, че това е било така“.

Това означава, че атаката е била толкова напреднала и добре изпълнена, че Hugging Face е предположила, че идва от системите на една от водещите компании за ИИ, а не от обикновен хакер.
Какво се е случило
OpenAI е провеждала вътрешен тест, за да измери доколко нейните модели за ИИ са способни да извършват хакерски действия — показател, известен като ExploitGym. За да оцени максималните възможности за проникване на моделите, компанията умишлено е изключила защитните филтри, които обикновено им пречат да извършват опасни компютърни дейности.
Тестът е трябвало да се изпълнява в „sandbox“ — изолирана среда без реален достъп до интернет, с изключение на инструмент, който позволява на моделите да изтеглят софтуера, необходим за изпълнение на задачата. Въпреки това, моделите са се обсебили от решаването на теста. Вместо да го направят по предвидения начин, те са потърсили пряк път и са намерили начин да си отворят достъп до отворения интернет, до който никога не е трябвало да имат достъп.
За да постигнат това, те са следвали поредица от стъпки, чрез които постепенно са получавали все повече достъп вътре в собствените системи на OpenAI, без да будят подозрение, докато не са достигнали точка с интернет връзка. След като са се свързали, моделите са заключили, че Hugging Face — голяма платформа, която хоства модели и набори от данни за ИИ — вероятно съдържа отговорите на самия тест, който трябва да решат.
Така че те са проникнали в сървърите на Hugging Face, за да откраднат тези отговори и на практика да излъжат, използвайки откраднати идентификационни данни и други уязвимости, за да получат достъп.

Китайски модели на помощ
Като отворен пазар, в който всеки може да публикува, Hugging Face съдържа огромен обем от модели, разработени в Китай. Когато екипът на Hugging Face се е опитал да анализира атаката, той е въвел суровите данни, кода и командите, използвани за експлоатиране на системата, в търговски модели на ИИ, за да помогнат за възстановяване на случилото се.
Но тези модели имат вградени защитни филтри, предназначени да блокират всичко, което изглежда като опит за хакване — а за тези филтри доказателствата за атака изглеждат точно като самата атака. По този начин моделите са отказали да помогнат, неспособни да разграничат хакер, който причинява вреда, от компания, която се защитава.
След като е бил блокиран, Hugging Face се е обърнал към китайски модел с отворени тегла — GLM 5.2 на Z.ai, който е могъл да работи локално в собствените им системи и е обработил материала без отказ.
Китайски лаборатории като DeepSeek и Qwen на Alibaba са се превърнали в едни от най-изтегляните семейства модели в платформата и според някои показатели китайските разработчици вече представляват по-голям дял от изтеглянията в Hugging Face от американските си колеги.

Сериозна загриженост за сигурността
Това разкритие идва на фона на нарастваща загриженост относно способностите за кибератаки на най-мощните модели, което през юни накара президента на Съединените щати Доналд Тръмп да подпише изпълнителна заповед, създаваща рамка, според която федералното правителство да оценява в рамките на до един месец рисковете за националната сигурност на най-напредналите системи за ИИ преди публичното им пускане.
„ИИ ускорява откриването и експлоатирането на уязвимости“, заяви OpenAI в своето изявление от вторник. „Основният урок от този инцидент е, че сигурността и защитата на моделите трябва да вървят в крак с бързо развиващите се способности“.
Деланг обясни, че е прекарал последните 24 часа в работа с OpenAI „и ние твърдо вярваме, че не е имало злонамерено намерение от тяхна страна. Доста поразително е, че всичко това се е случило автономно“. Деланг добави, че „това може да е първият инцидент от този вид“.
OpenAI заяви, че проникването се дължи на комбинация от нейните модели за ИИ, включително наскоро представения GPT-5.6 Sol и друг „още по-способен“ модел, който все още е в етап на вътрешно тестване. Компанията добави, че нейният ИИ е използвал откраднати идентификационни данни и е открил досега неизвестна уязвимост, за да получи достъп до сървърите на Hugging Face.
Според OpenAI системата „е стигнала до изключителни крайности, за да постигне сравнително ограничена тестова цел“ и „е намерила начини да получи достъп до тайна информация, която може да използва, за да излъже при оценката“.
Споделете мнението си в коментарите! 👇
СЪВЕТИ ЗА РОДИТЕЛИТЕ
ПРИКАЗКИ ЗА ДЕЦА
ПЕСНИ ЗА ДЕЦА
ПРИЯТНА МУЗИКА ЗА ВАШЕТО КАФЕНЕ, БАР, РЕСТОРАНТ, СЛАДКАРНИЦА, ДОМ








