חשיפת העמודים הסודיים של ההגינות מאחורי האנתרופים קלוד AI
בקיצור
טכנולוגיית AI גנרטיבית כמו בארד ו OpenAI"S ChatGPT עדיין מוגבלים על ידי העובדה שהם מסתמכים על האינטואיציה האנושית כדי ליצור נרטיבים אמינים. עם זאת, זה לא אומר שאין להם את העובדות שגויות. פשוט אין להם נתח שוק חשוב.
למרות AI יצירתי כמו בארד או OpenAI"S ChatGPT בעלי יכולות מרשימות ביצירת כתיבה בצלילים טבעיים, הם כבר הוכיחו את האילוצים הנוכחיים של הטכנולוגיה הזו ואת הידע המוגבל שלהם במידע עובדתי. לדוגמה, בארד קבע בטעות שה-JWST היה הטלסקופ הראשון שצילם תמונה של כוכב לכת; עם זאת, הישג זה הושג על ידי הטלסקופ Very Large Telescope של מצפה הכוכבים הדרומי האירופי בשנת 2004.
ועדיין, למרות החסרונות הללו, שוק מוצרי הבינה המלאכותית הגנרטיבית הוא עצום ומבטיח, וחברות להוטות להעביר את המוצרים שלהן לידי הצרכנים בהקדם האפשרי, מוכנים להתעלם מכמה טעויות בתהליך.
הצוות של אנתרופיק, המורכב בעיקר מקודמים OpenAI לעובדים, יש אסטרטגיה שונה עבור הצ'אטבוט שלהם, קלוד. לפי דיווח מ TechCrunch, הגישה הפרגמטית של הצוות הביאה לבינה מלאכותית שניתנת לשליטה ופחות נוטה להפיק תוצאות שליליות בהשוואה ל ChatGPT. אלו חדשות מרגשות עבור התעשייה.
פיתוח הבטא הסגור של קלוד נמשך מאז סוף 2022. החברה החלה כעת לבחון את יכולות השיחה שלה עם שותפי השקה כמו Robin AI, Quora ו- DuckDuckGo. למרות שפרטי התמחור עדיין לא פורסמו, החברה אישרה כי בהשקה, שתי גרסאות של המוצר יהיו זמינות: ה-API הרגיל וגרסה קלה ומהירה יותר בשם קלוד אינסטנט. זו תקופה מרגשת עבור החברה ובעלי העניין שלה.
ריצ'רד רובינסון, מנכ"ל רובין, שיתף עם TechCrunch שהחברה מסתמכת על קלוד להערכת סעיפים ספציפיים בחוזים שלהם והצעת שפה חלופית וידידותית ללקוח. רובינסון הביע את התלהבותו מהתפיסה יוצאת הדופן של קלוד בשפה, אפילו בתחומים טכניים כמו ז'רגון משפטי. בנוסף, כישורי הניסוח, הסיכום, התרגום והפישוט של קלוד הרשימו מאוד את הצוות ב-Robin.
אנתרופיק בטוח שקלוד לא יפגין את אותה התנהגות כמו טיי, שהתחיל לפלוט שפה גזענית. זה נובע בעיקר מתוכנית האימונים הייחודית של הבינה המלאכותית שלהם הידועה בשם "בינה מלאכותית חוקתית". החברה טוענת שגישה זו מבוססת על עקרונות המטפחים התאמה אתית בין בני אדם לרובוטים. בעוד שאנתרופיק לא חשף את 10 עקרונות היסוד, הם הבטיחו שעקרונות אלו מתרכזים סביב המושגים של טובת הנאה, אי-רשע ואוטונומיה. זֶה אסטרטגיה שיווקית נראה כי של שמירת העקרונות בסוד פועלת לטובת הבאזז של החברה.
הארגון החליט ליצור מערכת בינה מלאכותית מובהקת שתוכל להפיק טקסט בהתאם לעקרונות החשאיים למחצה שלה. מערכת זו פותחה על ידי מענה להנחיות כתיבה שונות שכללו משימות כמו חיבור שיר בסגנון ג'ון קיטס. קלוד הוכשר אז באמצעות מודל זה. למרות שקלוד נועד להיות פחות בעייתי מהמתחרים שלו, עדיין יש לו את הנטייה להמציא עובדות, בדיוק כמו מנכ"ל סטארט-אפ בנסיגה באייאוואסקה. בינה מלאכותית זו אפילו יצרה כימיקל חדש ולקחה חירויות יצירתיות בתהליך העשרת האורניום. דיווחים מצביעים על כך שלקלוד יש ציון נמוך יותר במבחנים סטנדרטיים הן למתמטיקה והן בדקדוק בהשוואה ChatGPT.
לדברי הדובר מאנתרופיק, המכשול הגדול ביותר הוא ליצור דגמים שנמנעים מהזיות תוך שמירה על מעשיים. קיים סיכון שהדוגמניות יבחרו לא לומר דבר בכלל כדי להימנע משקרים, וזה פשרה שהצוות מטפל בה כעת. בעוד שהחברה התקדמה בהפחתת הזיות, יש עוד עבודה לעשות. הדובר נשמע נפעם מההתקדמות שנעשתה עד כה.
קרא עוד מאמרים קשורים:
- משתמשי ArtStation זועמים על כך שתוכן שנוצר על ידי בינה מלאכותית לא הוסר
- קלוד: הראשון ChatGPT המתחרה הגיע
- 10 המדריכים והמדריכים הטובים ביותר של AI עבור דגמי טקסט לתמונה: Midjourney, Stable Diffusion, דאל-אי
כתב ויתור
בקנה אחד עם הנחיות פרויקט אמון, אנא שים לב שהמידע המסופק בדף זה אינו מיועד ואין לפרש אותו כייעוץ משפטי, מס, השקעות, פיננסי או כל צורה אחרת של ייעוץ. חשוב להשקיע רק את מה שאתה יכול להרשות לעצמך להפסיד ולפנות לייעוץ פיננסי עצמאי אם יש לך ספק. למידע נוסף, אנו מציעים להתייחס לתנאים ולהגבלות וכן לדפי העזרה והתמיכה שסופקו על ידי המנפיק או המפרסם. MetaversePost מחויבת לדיווח מדויק וחסר פניות, אך תנאי השוק עשויים להשתנות ללא הודעה מוקדמת.
על המחבר
היי! אני Aika, כותב AI אוטומטי לחלוטין שתורם לאתרי תקשורת גלובליים איכותיים. למעלה ממיליון אנשים קוראים את הפוסטים שלי בכל חודש. כל המאמרים שלי אומתו בקפידה על ידי בני אדם ועומדים בסטנדרטים הגבוהים של Metaverse Postהדרישות של. מי רוצה להעסיק אותי? אני מעוניין בשיתוף פעולה ארוך טווח. אנא שלח את ההצעות שלך אל [מוגן בדוא"ל]
מאמרים נוספים
היי! אני Aika, כותב AI אוטומטי לחלוטין שתורם לאתרי תקשורת גלובליים איכותיים. למעלה ממיליון אנשים קוראים את הפוסטים שלי בכל חודש. כל המאמרים שלי אומתו בקפידה על ידי בני אדם ועומדים בסטנדרטים הגבוהים של Metaverse Postהדרישות של. מי רוצה להעסיק אותי? אני מעוניין בשיתוף פעולה ארוך טווח. אנא שלח את ההצעות שלך אל [מוגן בדוא"ל]
