שורה תחתונה:
מינוי ועדת ביטחון חדשה ב-OpenAI לאחר עזיבת ראש צוות האיתור
מינוי ועדת ביטחון חדשה לאחר עזיבת ראש צוות האיתור
לאחר עזיבתו של יאן, ראש צוות האיתור ב-OpenAI, וביטול הצוות שהוא ניהל, הוקמה ועדת ביטחון חדשה בחברה. הוועדה מורכבת מארבעה חברי דירקטוריון נוכחיים של OpenAI – ברט טיילור, אדם דנג'לו, ניקול סליגמן וסם אלטמן, יחד עם כמה חברי צוות נוספים בחברה.
נכון לעכשיו, סם אלטמן, האיש האחראי על כיוון OpenAI וכן איש המכירות מספר אחת של החברה, הוא גם אחד האנשים האחראים על בטיחות ואבטחה בחברה. החלטה זו עוררה תהיות רבות.
פרטים נוספים על פיטוריו של סם אלטמן נחשפים
בפרק חדש של הפודקאסט Ted AI עם הלן טונר, אחת מחברות הדירקטוריון שהצביעה בעד הדחתו של סם אלטמן מ-OpenAI בנובמבר 2023, נחשפו פרטים נוספים על מה שקרה מאחורי הקלעים ומדוע הדירקטוריון החליט לפטר את סם.
כשצ'אט GPT יצא בנובמבר 2022, הדירקטוריון לא עודכן מראש. הם למדו על צ'אט GPT בטוויטר. סם לא יידע את הדירקטוריון שהוא בעל קרן ההון סיכון של OpenAI, למרות שהוא טען שוב ושוב שהוא חבר דירקטוריון עצמאי ללא אינטרס כספי בחברה. במספר הזדמנויות הוא סיפק מידע לא מדויק לגבי תהליכי הבטיחות המעטים שהיו קיימים בחברה.
לאחר שנים של התנהלות כזו, ארבעת חברי הדירקטוריון שפיטרו אותו הגיעו למסקנה שהם פשוט לא יכולים להאמין לדברים שסם אומר להם.
OpenAI מפסיקה שימוש לרעה בצ'אט GPT
OpenAI פרסמה פוסט בבלוג שלה על שיבוש שימושים מטעים ב-AI על ידי מבצעי השפעה סמויים. מבצעים הופסקו ברוסיה, סין, איראן וישראל, שם אנשים השתמשו בצ'אט GPT כדי ליצור תוכן מידע מוטעה ולשתף אותו ברשתות חברתיות.
כל שחקני האיום האלה השתמשו בשירותים של OpenAI כדי ליצור טקסט, ולעתים תמונות, בכמויות גדולות יותר ועם פחות שגיאות שפה ממה שהיה אפשרי למפעילים האנושיים לבדם. OpenAI לא נכנסה לפרטים לגבי מהם בדיוק המתקפות והשיבושים, אבל בכל מקרה, היא הפסיקה אותם.
האשמות שקר נגד סם אלטמן וסיפור פיטוריו מ-OpenAI
האשמות שווא נגד סם אלטמן
לאחרונה, התפשטו שמועות ברשתות החברתיות לגבי הסיבות לעזיבתו של סם אלטמן את Y Combinator. אנשים טענו כי הוא פוטר מהחממה בשל סיבות דומות לאלו שהוזכרו על ידי הלן טונר, אחת מחברות הדירקטוריון של OpenAI שהצביעה בעד פיטוריו של אלטמן בנובמבר 2023.
אולם, פול גרהאם, אחד ממייסדי Y Combinator, הכחיש זאת בציוץ בטוויטר. הוא הסביר כי במשך מספר שנים, אלטמן ניהל במקביל את Y Combinator ואת OpenAI. כאשר OpenAI הודיעה על הקמת חברת בת למטרות רווח ושאלטמן יהיה המנכ"ל שלה, ב-Y Combinator אמרו לו שאם הוא הולך לעבוד במשרה מלאה ב-OpenAI, עליהם למצוא מישהו אחר שינהל את Y Combinator, והוא הסכים. גרהאם הדגיש שאם אלטמן היה מחליט למצוא מישהו אחר שיהיה מנכ"ל OpenAI כדי שיוכל להתמקד ב-100% ב-Y Combinator, הם היו מסכימים לכך. הם פשוט רצו שיבחר באחד מהשניים.
OpenAI מתמודדת עם שימוש לרעה ב-ChatGPT
OpenAI פרסמה פוסט בבלוג שלה על מאמציה לשבש שימושים מטעים ב-AI על ידי גורמים זדוניים. הם דיווחו על מבצעים שהופסקו ברוסיה, סין, איראן וישראל, שם אנשים השתמשו ב-ChatGPT כדי ליצור תוכן מידע מוטעה ולהפיץ אותו ברשתות החברתיות.
כל השחקנים המאיימים האלה ניצלו את שירותי OpenAI כדי ליצור טקסטים, ולעתים גם תמונות, בכמויות גדולות יותר ועם פחות שגיאות שפה ממה שמפעילים אנושיים לבדם היו מסוגלים. אמנם OpenAI לא נכנסה לפרטים לגבי מהות ההתקפות והשיבושים, אך בכל מקרה, היא הצליחה להפסיק אותם.
שותפויות חדשות של OpenAI עם חברות תקשורת
OpenAI החלה לאחרונה ליצור שותפויות עם יותר ויותר חברות תקשורת. הם שיתפו פעולה עם News Corp, ובשבוע האחרון נודע כי הם גם יצרו שותפויות עם VOX Media וThe Atlantic.
ההערכה היא שתוכן רב מפלטפורמות אלו כבר אומן בתוך המודלים של OpenAI, וככל שיותר חברות תקשורת מסורתיות תובעות את OpenAI, החברה מנסה להקדים ולשתף פעולה עם חלק מהחברות שהתוכן שלהן נכלל במודלים. אך זה גם פותח הזדמנות לאימון תוכן חדש מפלטפורמות אלו במודלים, וכן לקבלת תוכן בזמן אמת ב-ChatGPT.
נראה גם שחברות התקשורת יקבלו גישה לטכנולוגיית OpenAI כדי לפתח מוצרים שישרתו טוב יותר את קהל הלקוחות והמפרסמים שלהן.
OpenAI נלחמת בשימוש לרעה ב-ChatGPT ויוצרת שותפויות עם חברות מדיה
OpenAI משפרת את מערכות האבטחה כדי למנוע שימוש לרעה ב-ChatGPT
OpenAI נקטה לאחרונה בצעדים משמעותיים כדי לשבש את השימוש המטעה ב-AI על ידי גורמים זדוניים. החברה דיווחה על מבצעים שהופסקו במדינות כמו רוסיה, סין, איראן וישראל, שם אנשים ניצלו את ChatGPT ליצירת תוכן מידע כוזב והפצתו ברשתות החברתיות.
הגורמים המאיימים הללו השתמשו בשירותי OpenAI כדי ליצור טקסטים ותמונות בכמויות גדולות ועם פחות שגיאות שפה ממה שמפעילים אנושיים היו מסוגלים לעשות לבדם. למרות שהחברה לא נכנסה לפרטים לגבי מהות ההתקפות והשיבושים, היא הצליחה בסופו של דבר להפסיק אותם ולחזק את מערכות האבטחה שלה.
OpenAI יוצרת שותפויות אסטרטגיות עם חברות תקשורת מובילות
בנוסף למאמצי האבטחה, OpenAI החלה לאחרונה ליצור שותפויות עם חברות תקשורת מובילות. החברה שיתפה פעולה עם News Corp, וכעת נודע כי היא יצרה גם שותפויות עם VOX Media ו-The Atlantic.
ההערכה היא שתוכן רב מפלטפורמות אלה כבר אומן במודלים של OpenAI, וככל שיותר חברות תקשורת מסורתיות תובעות את OpenAI, החברה מנסה להקדים תרופה למכה ולשתף פעולה עם חלק מהחברות שהתוכן שלהן נכלל במודלים. זה גם פותח הזדמנות לאימון תוכן חדש מפלטפורמות אלו במודלים, וכן לקבלת תוכן בזמן אמת ב-ChatGPT.
נראה שחברות התקשורת יקבלו גישה לטכנולוגיית OpenAI כדי לפתח מוצרים שישרתו טוב יותר את קהל הלקוחות והמפרסמים שלהן. שיתופי פעולה אלה מהווים צעד חשוב עבור OpenAI בהרחבת נוכחותה בתעשיית התקשורת.
הסכם ענק בין OpenAI לאפל בתהליכי סגירה
על פי דיווחים, OpenAI נמצאת בשלבים מתקדמים של סגירת הסכם ענק עם אפל. למרות שפרטי ההסכם עדיין לא ידועים, ההערכות הן שאפל מתכננת להשתמש בטכנולוגיית ה-AI של OpenAI כדי לשפר את היכולות של העוזרת הקולית Siri.
כיום, Siri מתקשה לענות על שאלות מורכבות בצורה עצמאית. שילוב הטכנולוגיה של OpenAI עשוי לאפשר ל-Siri להתמודד עם אתגרים אלה בצורה טובה יותר. אם העסקה אכן תיסגר, היא תהווה אבן דרך משמעותית עבור שתי החברות ותחזק את מעמדה של OpenAI כמובילה בתחום ה-AI.
שמועות על עסקה ענקית בין OpenAI לאפל לשילוב הטכנולוגיה ב-Siri
שמועות על שותפות אסטרטגית בין OpenAI לאפל
על פי דיווחים שונים, נראה כי OpenAI נמצאת בשלבים מתקדמים של סגירת עסקה משמעותית עם ענקית הטכנולוגיה אפל. למרות שפרטי ההסכם עדיין לא ידועים במלואם, ההערכות הן שאפל מתכננת לשלב את הטכנולוגיה המתקדמת של בינה מלאכותית מבית OpenAI בעוזרת הקולית הפופולרית שלה – Siri.
כיום, Siri מתקשה לעתים לספק תשובות מספקות לשאלות מורכבות באופן עצמאי. אולם, הטמעת היכולות של מודל השפה העוצמתי של OpenAI עשויה לאפשר ל-Siri להתמודד עם אתגרים מסוג זה בצורה טובה משמעותית יותר, ולהעניק חוויית משתמש משופרת.
פוטנציאל לשיפור משמעותי ביכולות של Siri
אם אכן העסקה בין OpenAI לאפל תצא לפועל, היא תהווה אבן דרך חשובה עבור שתי החברות. מבחינת אפל, שילוב הטכנולוגיה המתקדמת של OpenAI תאפשר לה להדביק את הפער מול מתחרות כמו גוגל ואמזון בתחום העוזרות הקוליות החכמות.
מנגד, עבור OpenAI, שותפות עם אפל תחזק את מעמדה כמובילה עולמית בתחום הבינה המלאכותית, ותאפשר לה להגיע לקהל משתמשים רחב יותר דרך מכשירי ה-iPhone וה-iPad הפופולריים של אפל.
האם העסקה אכן תצא לפועל?
נכון לעכשיו, הן OpenAI והן אפל סירבו להגיב לשמועות על העסקה הצפויה. עם זאת, רבים בתעשייה מעריכים כי פרטים נוספים על שיתוף הפעולה המתגבש צפויים להתפרסם בכנס המפתחים השנתי של אפל – WWDC, שיתקיים ב-10 ביוני.
אם אכן יתברר שהשמועות נכונות, מדובר בהתפתחות מרגשת עבור עולם הבינה המלאכותית, שעשויה להשפיע על האופן בו מיליוני משתמשים ברחבי העולם מתקשרים ומשתמשים במכשירים החכמים שלהם. נותר רק לחכות ולראות האם החזון של OpenAI ואפל אכן יתממש.
גוגל מסבירה את תגובות ה-AI המוזרות ומשפרת את מנגנון התשובות
גוגל מסבירה את הסיבות לתגובות ה-AI המוזרות
בשבוע שעבר, דיווחים רבים הצביעו על תשובות מוזרות ולא הגיוניות שסיפקו סיכומי ה-AI של גוגל, כמו למשל כמה אבנים אנשים צריכים לאכול או לפני כמה זמן הייתה שנת 1919. גוגל טענה שזה היה רק לפני 20 שנה.
בתגובה לכך, גוגל פרסמה הסבר למה שקרה. הם טענו שביצעו בדיקות מקיפות ומבחנים על מדגם של שאילתות משתמשים טיפוסיות ועל חלק מתעבורת החיפוש. אך הם ציינו שאין תחליף לשימוש של מיליוני אנשים בתכונה עם חיפושים מגוונים ויצירתיים.
צילומי מסך מזויפים וסאטירה הובילו לתשובות מוזרות
גוגל ציינה שמספר גדול של צילומי מסך מזויפים הופצו ברשת, חלקם היו מגוחכים ומובנים מאליהם, בעוד שאחרים רמזו שגוגל החזירה תוצאות מסוכנות בנושאים כמו השארת כלבים במכוניות, עישון בהריון ודיכאון. סיכומי ה-AI הללו מעולם לא הופיעו באמת.
עם זאת, גוגל מודה שחלק מסיכומי ה-AI שהופיעו היו מוזרים, לא מדויקים או לא מועילים. הם זיהו בעיה ביכולת שלהם לפרש שאילתות חסרות היגיון ותוכן סאטירי. לדוגמה, השאלה "כמה אבנים עליי לאכול" כמעט ולא נשאלה בגוגל לפני שצילומי המסך הפכו לוויראליים. אין הרבה תוכן רשת שמתייחס ברצינות לשאלה הזו, מה שנקרא "חלל נתונים" או "פער מידע". עם זאת, יש תוכן סאטירי בנושא זה, ולכן כאשר מישהו הזין את השאלה בחיפוש, הופיע סיכום AI שקישר בנאמנות לאחד האתרים הבודדים שעסקו בשאלה, אחד מאתרי הסאטירה.
גוגל משפרת את מנגנון התשובות כדי להתמודד עם השאילתות המוזרות
גוגל ראתה גם תגובות שכללו תוכן סרקסטי או מתגרה מפורומים של דיונים, אך במקרים מסוימים הן כללו עצות שהיו פחות מועילות, כמו שימוש בדבק כדי להדביק גבינה לפיצה.
בסופו של דבר, גוגל טוענת שרבים מצילומי המסך שהופצו ברשת היו כנראה מזויפים, אך אלו שלא היו מזויפים נבעו ממצבים בהם היה "חלל נתונים", ולכן המערכת משכה תוכן מאתרים סאטיריים או מפלטפורמות כמו Reddit שעשויות להכיל תגובות מצחיקות או מתגרות.
גוגל מציינת שהם בנו מנגנונים טובים יותר כדי לנסות לפתור חלק מהבעיות הללו, ושסיכומי ה-AI ילכו וישתפרו. נראה שגוגל עובדת קשה על שיפור היכולות של המערכת שלה להתמודד עם שאילתות מאתגרות ומוזרות, ולספק תשובות מועילות ומדויקות יותר למשתמשים.
