Vítejte v DÍLNĚ. Archiv starších čísel a přihlášení k odběru je zdarma tady. Dneska tu pro vás mám 👇

• 🦾 Nejdůležitější víkend v historii lidstva

~2 důležité minuty čtení

Nejdůležitější víkend v historii lidstva

Dnešní článek může extrémně rychle zestárnout a pozítří už nebude platný, ale během uplynulého víkendu se stala událost, která může a nemusí být určující pro osud lidstva a za článek stojí. Představte si, že jsme na prahu technologického Rubikonu, za kterým už není cesty zpět. A že jsme možná tenhle víkend zatáhli za ruční brzdu, když byl Sam Altman, ředitel OpenAI, náhle vyhozen ze své pozice.

Třeba je to běžné korporátní drámo. JENŽE! Start-upy s valuací 80 miliard dolarů nevyhazují své šéfy bez vážného důvodu. Zde se může jednat o něco mnohem většího. Až do nedávna se zdálo, že OpenAI, společnost založená s cílem vyvinout bezpečnou umělou inteligenci, byla na správné cestě. Ale co když to tak není?

Správní rada OpenAI teď vypadá jako banda blbců, kteří vyhodili fungujícího ředitele a toho pak z ulice i s většinou týmu zaměstnal Microsoft. Akorát že rada OpenAI byla primárně složená za důvodem vytvoření bezpečné obecné umělé inteligence, která až překročí lidské schopnosti, byla v souladu se zájmy lidstva. A tady přichází ta hypotetická bomba: Co když vyhození Sama Altmana bylo krokem k zajištění, že OpenAI zůstane věrná svému poslání?

Jakmile dosáhneme úrovně Obecné Umělé Inteligence (AGI) – AI, která se může sama učit a vylepšovat – bude pro nás na úrovni božské inteligence. A už nebude cesty zpět. Co když taková inteligence nepovažuje lidstvo za spojence, ale za škůdce? Lze i očekávat, že až taková AGI vznikne, ubezpečí se, že už nikdy žádná jiná AGI nevznikla, protože by mohla ohrozit její samotnou existenci. Proto první AGI MUSÍ být v souladu s hodnotami lidstva.

Celý tento příběh může znít jako scénář sci-fi filmu, kde AI není přítelem člověka a určitě je i o mocenských hrách a etických dilematech. Ale realita může být ještě strašidelnější. Jakmile AGI dosáhne bodu, kdy překoná lidskou inteligenci, může následovat nepředvídatelný řetězec událostí.

Je to boj o moc, nebo boj o budoucnost lidstva? Buď jsme byli svědky běžného boje o moc a ego, nebo jsme viděli krok k záchraně lidstva.

Musíme se ujistit, že až vznikne AGI, bude to v souladu s našimi nejhlubšími hodnotami a ideály. Jenomže jaké to jsou, když se jako lidstvo neshodneme na vůbec ničem?

Díky, že jste dočetli až na konec. Čtenáři Ječmenovy dílny se nevzdávaj v půlce. Pošlete Dílnu známému a ukažte jim, že se taky nevzdávají. 🫀

Jak jsem si vedl?

🔥🔥🔥🔥🔥 Byl to nářez!

🔥🔥🔥 Neříkám tak ani tak.

🔥 Mám zkaženej den.

Ahoj ve čtvrtek.

Honza