Advocaat die gebruikte ChatGPT om een briefing vol valse citaten te schrijven om sancties onder ogen te zien
In het kort
De hype rond AI heeft ertoe geleid dat mensen bang zijn voor programma's als ChatGPT zal ze werkloos maken. Voor advocaat Steven Schwartz zou die nachtmerrie sneller kunnen komen dan hij had verwacht. Schwartz draaide zich om OpenAI's chatbot voor hulp bij het schrijven van een juridische briefing, met voorspelbaar desastreuze resultaten.
Veel mensen geloven dat op een dag, ChatGPT programma's zullen hen werkloos maken. Sommige beroepen hoeven echter niet bang te zijn voor een mogelijke inhaalslag door AI. Zoals gemeld door de New York Times, Steven Schwartz, een New Yorkse advocaat, onlangs gebruikt OpenAI's chatbot om te helpen bij het schrijven van een juridische briefing met desastreuze gevolgen.
Het advocatenkantoor van Schwartz klaagt Avianca aan namens Roberto Mata, die beweert gewond te zijn geraakt tijdens een vlucht naar New York City. De luchtvaartmaatschappij vroeg onlangs een federale rechter om de zaak te seponeren. Volgens de advocaten van Mata zijn er echter meerdere zaken die de zaak van de eiser ondersteunen, zoals "Varghese v. China Southern Airlines", "Martinez v. Delta Airlines" en "Miller v. United Airlines". Er is echter slechts één probleem: niemand kon de gerechtelijke beslissingen identificeren die in Mata's briefing worden genoemd omdat ChatGPT creëerde ze allemaal. Deze onthulling roept ernstige zorgen op over de geloofwaardigheid van Mata's juridische team en hun argumenten. Het zet ook vraagtekens bij de geldigheid van enig ander bewijs of citaten die door Mata's advocaten in deze en eerdere zaken zijn gepresenteerd.
Donderdag diende Schwartz een beëdigde verklaring in waarin hij beweerde dat hij had gebruikt ChatGPT om zijn onderzoek voor de zaak aan te vullen. Hij beweerde dat hij niet op de hoogte was van de mogelijkheid dat het materiaal dat hij had ingediend vals zou kunnen zijn. Hij deelde ook screenshots waarin hij de chatbot had gevraagd of de genoemde gevallen echt waren. De chatbot verklaarde van wel en vertelde Schwartz dat "gerenommeerde juridische databases" zoals Westlaw en LexisNexis de beslissingen bevatten. Bij verder onderzoek werd echter ontdekt dat de chatbot was geprogrammeerd om informatie uit onbetrouwbare bronnen te halen. Dit benadrukt het belang van het controleren van feiten en het verifiëren van bronnen voordat informatie online wordt gedeeld.
“Ik heb spijt van het gebruik ChatGPT in het verleden en zal dat in de toekomst nooit doen zonder absolute verificatie van de authenticiteit”, zei Schwartz in de rechtbank. Op 8 juni zal een hoorzitting worden gehouden om mogelijke sancties te bespreken voor de "ongekende omstandigheid" die Schwartz heeft gecreëerd. De verklaring van Schwartz suggereert dat hij mogelijk negatieve gevolgen heeft ondervonden van het gebruik ChatGPT zonder de echtheid ervan te verifiëren. Het valt nog te bezien wat de uitkomst van de hoorzitting zal zijn en hoe dit de toekomst van Schwartz zal beïnvloeden.
- De Chinese autoriteiten vervolgen ChatGPT, een chatbot die door Tencent en Ant Group werd gebruikt nadat deze verwikkeld raakte in een politiek schandaal. Dit heeft geleid tot grotere beperkingen geplaatst over het gebruik van ChatGPT.
- Gebruikers op sociale media hebben het misschien gemerkt nep antwoorden, dit zijn antwoorden die zijn gegenereerd door de ChatGPT chatbot. ChatGPT draait uit valse antwoorden in een poging om menselijker over te komen.
Lees meer gerelateerde artikelen:
- Een man schrijft zijn proefschrift in één dag met alleen ChatGPT
- D-ID lanceert face-to-face conversatie-AI-chatbot mogelijk gemaakt door ChatGPT
- Apple beperkt het gebruik door werknemers ChatGPT
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelenDamir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.