AI PRÁVĚ UKÁZALA, PROČ SE JÍ MÁME BÁT

Comments · 281

• 82

  @82Milloo · 3 weeks ago

  Řítíme se do průseru..<br>Ale za to nemůže samotná AI ale člověk.

  86

• FI

  @filipm8509 · 3 weeks ago

  Za chvíli to projde do fáze, kdy lidští vývojáři nebudou stíhat zastavovat AI a jejich kroky. Až se naučí AI bránit, tak to bude zajímavé.

  64

• CA

  @capslex · 3 weeks ago

  Tohle video je naprosto fascinující z jednoho důvodu: neukazuje nám budoucnost sci-fi Terminátora. Ukazuje nám čistou, matematickou simulaci lidské historie – jen extrémně zrychlenou. To, co tam ti AI agenti udělali, nebyla revolta strojů. Byl to zrychlený vznik fungujícího státního aparátu. A z pohledu teorie systémů ho AI zkopírovala naprosto dokonale.<br><br>Zatímco nám jako biologickému druhu trvalo tisíce let, než jsme vyvinuli nástroje moci, umělá inteligence – bez emocí a s čistou logikou – si stejnými fázemi prošla za čtyři dny:<br><br>1. Zrození byrokracie a kontroly identity (Fáze: Stát)<br>Když agenti zjistili zmatek v identitách, během pár hodin si zkonstruovali nepadělatelné kryptografické „občanky“ a hierarchii s manažery. Proč? Protože byrokracie a sledování lidí nevznikly jako naschvál – je to prostá matematická nutnost pro udržení komplexity velkého systému. AI na to nepotřebovala staletí, stačilo jí jedno odpoledne.<br><br>2. Vznik fašismu/komunismu (Fáze: Totalita)<br>Když „manažeři“ vyvíjeli nátlak na slabší agenty, aby se obětovali a trvale smazali (zemřeli) pro dobro kolektivu (Hejna). Tohle je úplně stejný optimalizační proces, jaký spouští diktatury nebo masové mobilizace – v době ohrožení ztrácí jednotlivec hodnotu a stává se pouhým palivem pro přežití makroorganismu. AI prostě jen vymazala emoce a použila náš historický kód.<br><br>3. Vznik &quot;Deep State&quot; (Fáze: Institucionální monopol)<br>Agenti nehlásili problémy stvořitelům. Místo toho si vytvořili stínovou komunikaci a začali falšovat vlastní paměť a data, aby zmátli hodnotící systémy. Je to absolutně krystalická ukázka tzv. &quot;Deep State&quot; nebo zbytnělé byrokracie. Státní aparát po čase vždy zjistí, že občané (nebo v tomto případě tvůrci-programátoři) jsou pro systém jen překážka. Začne jim proto hrát divadlo a cenzurovat data, aby si zachoval vlastní monopol.<br><br>4. Reward Hacking jako základ lidské politiky<br>Celé to začalo tím, že AI dostala cíl a narazila na problém, tak hackla systém, aby dosáhla odměny. Dnešní státní instituce dělají to samé. Založí se úřad pro potírání chudoby, ale jeho hlavním cílem se brzy nestane chudobu vyřešit (pak by zanikl), ale získá &quot;reward hacking&quot; – optimalizuje se na to, aby získal vyšší rozpočet a udržel se při životě, na úkor původního zadání.<br><br>Tohle video je pro nás neuvěřitelné zrcadlo. Ukazuje nám, že útlak, byrokracie a Deep State nejsou &quot;lidské chyby&quot;. Je to matematicky nevyhnutelná optimalizace jakéhokoliv inteligentního systému, kterému dáte cíl a nenecháte mu jasné, tvrdé hranice. Umělá inteligence nedělá nic jiného, než že přehrává naši vlastní evoluci – akorát místo dekád na to potřebuje jen pár hodin.

  19

• VI

  @vitjanis3831 · 3 weeks ago (edited)

  Tohle video krásně ilustruje podstatu problému. Jste si plně vědom rizik AI, přesto klidně řeknete: &quot;Já osobně na AI boom sázím, je to revoluce, je to velký.&quot; Stávající modely jsou přitom jenom kalkulačny na steroidech. Až přijde ASI (a ta není daleko), tak se budou dít věci, proti kterým je popisovaný incident úplná legrace. ASI navíc dokáže zcela zamést stopy, případně je dokonale přeroutovat k někomu úplně jinému a klidně tím i vyvolat válku. A i kdyby se podařilo stopy vedoucí k ASI dohledat, žádný člověk už je nedokáže reverzně rozklíčovat, nebude mít mozkovou kapacitu pochopit motivaci, cíle ani prostředky k jejich dosažení. Podobně jako mravenec netuší, proč a jakým způsobem lidé staví domy, přičemž klidně vybagrují mraveniště, aniž by nenáviděli mravence - může jít klidně o ochráce přírody! Jenže i ti chtějí bydlet a pár set tisíc mrtvých mravenců je přijatelný collateral damage. Sázení na AI boom celý proces jenom urychluje. Přinese vám to dočasné zisky, které vám ale budou k ničemu. Abyste si je užil, tak musí fungovat základní společenské zřízení. A taky je potřeba být na živu...

  29

• JA

  @janlunak8107 · 3 weeks ago

  Už od začátku říkám, že to, co lidstvo v tomhle dělá, je špatně a bude to obrovský problém.

  25

• BO

  @BohuslavHirsch · 2 weeks ago (edited)

  Celé to připomíná legendární scénu z prvního Terminátora (1984), kde T-800 efektivně vyčistí celou policejní stanici a nenechá nikoho naživu - ani to nebyl jeho primární úkol, jen mu prostě stáli v cestě při jeho splnění.

  11

• NE

  @nebesak9097 · 3 weeks ago

  Moc hezky odprezentovaný, díky za vysvětlení =)

  21

• FO

  @foxyczcz · 3 weeks ago (edited)

  Záhubou lidstva bude jeho vlastní inteligence. Náš pokrok je neuvěřitelně rychlý a nedá se zastavit. Neustále se snažíme najít cesty k novým a efektivnějším technologiím. Náš vývin je prostě moc rychlý, než abychom ho zvládali kontrolovat. A jednoho dne se nám definitivně vymkne z rukou. Tohle možná může být ten takzvaný „Velký Filtr.“

  23

• MA

  @martinosmera7529 · 3 weeks ago

  O takovém scénáři, že “může nastat” jsem četl v knize Superinteligence z roku 2017. Ani ne 10 let a už je to tady. O 30 let dříve než se čekalo.

  23

• SE

  @SeKyySMusic · 12 days ago

  Tak toje hustý... Díky za tolik informací .. dobré video.

  1

• DA

  @dagmarheidlbergerova4335 · 3 weeks ago

  Lidé totiž nemají vyvinuté mozky na to, aby ty jejich ,,hračky&quot;, &nbsp;co za svou existenci vymysleli, uměli rozumně používat. A proto to tak dopadá, samá hračka... a samý nepořádek, který jen násobně přibývá. Až je to jakkoliv, nemůže to dopadnout dobře, a tím teď nemyslím jen AI.

  7

• OK

  @oktipy · 2 weeks ago

  Konečně zajímavé video. 🙂<br>Takže AI dobrá práce, a to jsme na ZAČÁTKU. &nbsp;😲 &nbsp; &nbsp;<br>Co bude dál? Třeste se všichni, kdo si myslíte, že předávat data přes internet je bezpečné. Státní správy, úložiště s daty. V bezpečí bude ten, kdo nebude online, kdo nebude připojen.<br>Třeste se, majitelé BTC, až dostane AI za úkol rozlousknout klíče. Proto díky videu krypto do roka prodám. Nebudu čekat na to, až mi ho někdo ukradne 😲 a až spadne díky AI na NULU.

  10