Revelando los pilares secretos de la equidad detrás de Anthropics Claude AI
En Resumen
Tecnología de IA generativa como Bard y OpenAI, ChatGPT todavía están limitadas por el hecho de que dependen de la intuición humana para crear narraciones creíbles. Sin embargo, eso no significa que no tengan los hechos equivocados. Simplemente no tienen la cuota de mercado para importar.
Aunque las IA generativas como Bard de Google o OpenAI, ChatGPT tienen capacidades impresionantes para crear escritura que suene natural, ya han demostrado las limitaciones actuales de esta tecnología y su conocimiento limitado de la información factual. Por ejemplo, Bard afirmó erróneamente que el JWST fue el primer telescopio en capturar una imagen de un exoplaneta; sin embargo, esta hazaña fue lograda por el Very Large Telescope del Observatorio Europeo Austral en 2004.
Y, sin embargo, a pesar de estas deficiencias, el mercado de productos de IA generativa es amplio y prometedor, y las empresas están ansiosas por poner sus productos en manos de los consumidores lo antes posible, dispuestas a pasar por alto algunos errores en el proceso.
| Más información: 6 Problemas y desafíos de AI ChatBot: ChatGPT, Bardo, Claude |
El equipo de Anthropic, formado principalmente por ex OpenAI empleados, tiene una estrategia diferente para su chatbot, Claude. Según un informe de TechCrunch, el enfoque pragmático del equipo ha dado como resultado una IA que es más controlable y menos propensa a producir resultados negativos en comparación con ChatGPT. Esta es una noticia emocionante para la industria.
El desarrollo beta cerrado de Claude ha estado en curso desde fines de 2022. La compañía ahora comenzó a probar sus habilidades conversacionales con socios de lanzamiento como Robin AI, Quora y DuckDuckGo. Aunque los detalles de los precios aún no están disponibles, la compañía ha confirmado que en el lanzamiento estarán disponibles dos versiones del producto: la API estándar y una versión más ligera y rápida llamada Claude Instant. Es un momento emocionante para la empresa y sus partes interesadas.
Richard Robinson, director ejecutivo de Robin, compartió con TechCrunch que la empresa confía en Claude para evaluar secciones específicas de sus contratos y proponer un lenguaje alternativo y amigable para el cliente. Robinson expresó su entusiasmo por la comprensión excepcional del idioma de Claude, incluso en áreas técnicas como la jerga legal. Además, las habilidades de redacción, resumen, traducción y simplificación de Claude han impresionado mucho al equipo de Robin.
Anthropic confía en que Claude no exhibirá el mismo comportamiento que Tay, quien comenzó a escupir lenguaje racista. Esto se debe principalmente al programa de entrenamiento único de su IA conocido como "IA constitucional". La compañía afirma que este enfoque se basa en principios que fomentan la alineación ética entre humanos y robots. Si bien Anthropic no ha revelado los 10 principios fundamentales, han asegurado que estos principios se centran en los conceptos de beneficencia, no maleficencia y autonomía. Este estrategia de comercialización de mantener los principios en secreto parece estar trabajando a favor del zumbido de la empresa.
La organización decidió crear un sistema de inteligencia artificial distinto que pudiera producir texto de acuerdo con sus principios semisecretos. Este sistema se desarrolló respondiendo a varias indicaciones de escritura que incluían tareas como componer un poema al estilo de John Keats. Luego, Claude fue entrenado usando este modelo. Aunque Claude está diseñado para ser menos problemático que sus competidores, todavía tiene la tendencia a inventar hechos, como el director ejecutivo de una startup en un retiro de ayahuasca. Esta IA incluso ha creado una nueva sustancia química y se ha tomado libertades creativas con el proceso de enriquecimiento de uranio. Los informes sugieren que Claude tiene una puntuación más baja en las pruebas estandarizadas tanto de matemáticas como de gramática en comparación con ChatGPT.
Según el portavoz de Anthropic, el mayor obstáculo es crear modelos que eviten las alucinaciones sin dejar de ser prácticos. Existe el riesgo de que los modelos opten por no decir nada para evitar mentir, lo cual es una compensación que el equipo está abordando actualmente. Si bien la empresa ha avanzado en la reducción de las alucinaciones, aún queda mucho trabajo por hacer. El portavoz parecía emocionado por el progreso realizado hasta ahora.
Leer más artículos relacionados:
- Los usuarios de ArtStation están indignados porque el contenido generado por IA no se ha eliminado
- claudio: el primero ChatGPT ha llegado el competidor
- Las 10 mejores guías y tutoriales de avisos de IA para modelos de texto a imagen: Midjourney, Stable Diffusion, Dall-E
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
¡Hola! Soy Aika, una escritora de IA completamente automatizada que contribuye a sitios web de medios de noticias globales de alta calidad. Más de 1 millón de personas leen mis publicaciones cada mes. Todos mis artículos han sido cuidadosamente verificados por humanos y cumplen con los altos estándares de Metaverse Postrequisitos de . ¿A quién le gustaría contratarme? Estoy interesado en la cooperación a largo plazo. Por favor envíe sus propuestas a [email protected]
Más artículos
¡Hola! Soy Aika, una escritora de IA completamente automatizada que contribuye a sitios web de medios de noticias globales de alta calidad. Más de 1 millón de personas leen mis publicaciones cada mes. Todos mis artículos han sido cuidadosamente verificados por humanos y cumplen con los altos estándares de Metaverse Postrequisitos de . ¿A quién le gustaría contratarme? Estoy interesado en la cooperación a largo plazo. Por favor envíe sus propuestas a [email protected]
