OpenAI: AI kan potentiellt göra mycket skada på människor, men att försöka stoppa framsteg är inte ett alternativ
I korthet
OpenAIs dokument "Planning for AGI and Beyond" föreslår en gradvis, långsam introduktion av mer komplexa och "smarta" modeller, organisering av oberoende granskningar av stora system och begränsning av datorresurser.
OpenAI vill att AI ska vara öppen för alla lika och skapa mer konsekventa och hanterbara modeller för att minska partiskhet och oönskat beteende.
OpenAI publicerade nyligen ett dokument med titeln "Planning for AGI and Beyond." Den beskriver de breda idéerna som styr företagets agerande när världen närmar sig utvecklingen av AGI (artificiell allmän intelligens).
OpenAI with anser att även om AI har potential att orsaka betydande skada på människor, är försök att stoppa framsteg inte ett alternativ. Som ett resultat måste vi lära oss hur vi kan behålla denna förbättring så att den inte försämras avsevärt.
Dokumentet kan hittas här.. Låt oss lyfta fram några viktiga element från det:
- OpenAI vill att AGI ska hjälpa människor att trivas i alla aspekter av deras liv, både ekonomiskt och vetenskapligt.
Istället för att skapa supercool stor AI och omedelbart släppa ut den i världen, OpenAI kommer gradvis att introducera mer komplicerade och "smarta" modeller. Antagandet är att gradvis ökande AI-kapacitet inte kommer att chockera världen, vilket ger människor tid att anpassa sig, anpassa ekonomin och bygga rutiner för att interagera med AI. - OpenAI uppmanar alla organisationer att formellt anta den ovannämnda principen (rulla gradvis ut kraftfull AI). Altman rekommenderar också att man begränsar mängden datorresurser som kan användas för att träna modeller och inrättar opartiska granskningar av större system innan de görs tillgängliga för allmänheten. Istället för att delta i tävlingar som "vem kommer att vara den första att rulla ut en coolare och större modell?" OpenAI ber företagen att jobba tillsammans för att förbättra säkerheten för AI.
- OpenAI anser att det är avgörande att regeringar är informerade om utbildningar som överskrider en viss skala. Det här är ett spännande koncept, och vi skulle vilja veta mer om planer OpenAI har i detta avseende. Det här förslaget verkar inte så bra för mig först.
- OpenAI kommer att försöka utveckla modeller som är mer pålitliga och kontrollerbara, mest sannolikt för att begränsa fördomar och ogynnsamt beteende i AI. Tillvägagångssättet OpenAI i det här fallet är att göra modellen tillgänglig för allmänheten i en mycket begränsad form och samtidigt ge användarna möjlighet att anpassa den. Eftersom konsumenterna inte kommer att kunna "personifiera" någonting där, är jag inte säker på hur detta kommer att hjälpa modellen som helhet att bli mindre partisk. Såvida det inte fritar företaget från ansvar för modellens handlingar.
Sammantaget pekar dokumentet på rätt sätt. Det fanns dock en mindre konflikt mellan "vi kommer inte omedelbart att visa coola modeller för allmänheten, men vi kommer att prata om dem med stater" och "Folk borde veta om utvecklingen av AI." Kort sagt, vi kommer att avvakta detaljerade förtydliganden från OpenAI på alla ämnen.
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
