Max Tegmark, spoluzakladatel a prezident, Future of Life Institute

Jeho vědecké zájmy sahají od přesné kosmologie až po konečnou podstatu reality, o čemž všem se věnuje v jeho nové populární knize „Our Mathematical Universe“. Známý jako „Mad Max“ pro své nekonvenční názory a touhu po dobrodružství. Profesor fyziky na MIT, je autorem více než 200 vědeckých publikací a byl featured v několika vědeckých filmech. Jeho práce na shlukování galaxií ve spolupráci SDSS byla oceněna prvním místem v časopise Science „Breakthrough of the Year: 2003“. Spolu s Anthony Aguirrem založil Foundational Questions Institute.

2023

Švédský časopis Expo v lednu 2023 odhalil, že FLI nabídla dar ve výši 100,000 XNUMX USD nadaci založené krajně pravicovou internetovou publikací Nya Dagbladet ve Švédsku. Tegmark odpověděl tím, že grant byl okamžitě zrušen a že institut se o postoji Nya Dagbladet dozvěděl až několik měsíců poté, co byl poprvé udělen prostřednictvím náležité péče.

FLI vydala v březnu 2023 dopis nazvaný „Pause Giant AI Experiments: An Open Letter“. Bylo požadováno, aby přední vývojáři AI prokazatelně zastavili na šest měsíců na všech systémech „výkonnějších než GPT-4“ a využít tento čas k nastavení bezpečnostního rámce. Pokud by to selhalo, měly by vlády zasáhnout a uvalit moratorium. V dopise bylo uvedeno, že „laboratoře umělé inteligence byly v posledních měsících svědky závodu mimo kontrolu ve vývoji a nasazení stále výkonnějších digitálních myslí, kterým nikdo – dokonce ani jejich tvůrci – nemůže porozumět, předvídat nebo spolehlivě ovládat“. Dopis zmiňoval jako možnost „hlubokou změnu v historii života na Zemi“ spolu s nebezpečím dezinformací produkovaných umělou inteligencí, lidskou zastaralostí a ztrátou kontroly nad společností jako celkem.

Elon Musk, Steve Wozniak, Evan Sharp, Chris Larsen, Gary Marcus, generální ředitelé laboratoří pro umělou inteligenci Connor Leahy a Emad Mostaque, zákonodárce Andrew Yang, odborník na hluboké učení Yoshua Bengio a Yuval Noah Harari byli mezi pozoruhodnými jednotlivci, kteří petici podepsali. "Duch má pravdu, ale dopis není dokonalý," řekl Marcus. Podle Mostaque: „Nemyslím si, že šestiměsíční pauza je nejlepší nápad nebo souhlasím se vším, ale v tom dopise jsou některé zajímavé věci. Na druhou stranu Bengio na tiskové konferenci uvedl, že půlroční pauzu podporuje. Musk prohlásil, že „přední vývojáři AGI nebudou toto varování dbát, ale alespoň to bylo řečeno“. Obavy z existenčního nebezpečí z umělé obecné inteligence byly uváděny jako hnací síla motivace některých signatářů, včetně Muska.

Dopis od FLI kritizovali autoři jedné z publikací v něm uvedených „O nebezpečích stochastických papoušků: Mohou být jazykové modely příliš velké?“ Emily M. Bender, Timnit Gebru a Margaret Mitchell. Podle Mitchella „dopis prosazuje soubor priorit a příběh o AI, který je prospěšný pro příznivce FLI tím, že zachází se spoustou pochybných myšlenek jako s danými“. Není luxus, že všichni musíme ignorovat současné problémy.

Nejnovější zprávy o Max Tegmark

• Profesor Richard Sutton, výzkumník z DeepMind, zdůraznil důležitost řešení etických a existenčních otázek, které přináší pokrok AI. Představil plán Alberty, plán budoucnosti AI, zdůrazňující potřebu obezřetného a promyšleného plánu převodu správcovství na dědice AI. Navzdory skepsi ze strany médií zůstává Suttonovo poselství nezmenšené a zdůrazňuje potřebu předvídavosti a moudrosti tváří v tvář transformační síle AI.
• Marieke Flement, počítačová inženýrka a bývalá finanční analytička LVMH, je generální ředitelkou nadace NEAR Foundation. Má různorodou kariéru, včetně rolí ve společnostech Expedia, Circle a kryptoprůmyslu. Flement vede organizaci směrem k budoucnosti „otevřeného webu“ se zaměřením na tvorbu web3 dostupnější pro masy. Nadace NEAR zahájila iniciativy, jako je Blockchain Operating System a Base Camp Accelerator Program.

Nejnovější sociální příspěvky Maxe Tegmarka