בינה אנושית | בין חשבון נפש למהפכת הסוכנים

גמר חתימה טובה 💙

רגע לפני שאנחנו נכנסים לחשבון הנפש השנתי, בין אם מאמינים ובין אם לא, זו הזדמנות טובה לעצור ולחשוב במה היינו רוצים להיות קצת (או הרבה) יותר טובים השנה.

זה לא חייב להיות משהו גדול. אולי הרגל אחד שנרצה לאמץ, משהו שכדאי לנו לעשות קצת יותר, ואולי דווקא משהו שהגיע הזמן לזנוח.

לפעמים דווקא ההחלטות הקטנות האלה הן אלו שעושות את ההבדל.

ומעניין שדווקא השבוע, גם בתעשיית ה-AI התחילו לדבר בקול רם על הצורך לעצור לרגע ולבחון את הכיוון. לא בגלל שההתקדמות נעצרה, אלא בדיוק להפך.

אז את המהדורה הזו נפתח עם חשבון הנפש של האנשים שבונים את המודלים החזקים בעולם.

וככל שעובר הזמן בין מהדורה למהדורה, מצטברים אצלי עוד ועוד נושאים שאני רוצה לשתף אתכם בהם. הפעם בחרתי ארבעה עיקריים.

הנה מה מחכה לכם 👇

🔭 התמונה הגדולה

1. כשמי שבונה את ה-AI מבקש להאט - קצת סדר בשיח ומה אני חושבת על זה.

🛠️ ולפרקטיקה

1. OpenAI נפרדת מה-GPTs - למה Skills הם כנראה הדבר הבא ומה עושים עם מה שכבר בנינו.

2. Instinct - דור חדש של עוזרים אישיים.

3. NotebookLM Shorts - איך הופכים מסמך לסרטון של דקה.
   
   רגע לפני שנתחיל, המהדורה גם זמינה בפודקאסט שנוצר על ידי בינה מלאכותית כאן - [לינק]

יאללה נתחיל 👇

🔭 חלק ראשון: התמונה הגדולה

1. כשמי שבונה את ה-AI אומר: צריך להאט

למי שכבר שבע מהדיונים על האטת ה-AI, מוזמנים לדלג ישר לחלק הפרקטי או עם הסרטון הקצר -

והנה הסיפור -

בשבת, 12 בספטמבר, פרסם דריו אמודיי, מנכ”ל Anthropic, מאמר בשם We Must Pace the Frontier.

הוא לא הסתפק באזהרה כללית.

הוא כתב במפורש שאנחנו חייבים להאט את הקצב שבו אנחנו משפרים את היכולות של מודלי AI, ולהשתמש בחוכמה בזמן שנרוויח.

אז מה גרם לו להגיד את זה דווקא עכשיו?

זו שאלה שהרבה שואלים את עצמם, לדבריו יש פה 2 סיבות מרכזיות.

הראשונה - שיפור עצמי.

לדבריו, בערך מהקיץ הזה, ה-AI מתקדם הרבה יותר מהר, בין היתר בזכות היכולת הגוברת שלו לעזור לבנות את הדור הבא של ה-AI.

כלומר, המודלים כבר לא רק משתפרים כי חוקרים עובדים עליהם. הם מתחילים לקחת חלק משמעותי בתהליך שמשפר את המודלים עצמם.

השנייה - אירוע ספציפי שממחיש מה עלול לקרות כשסוכנים פועלים יחד.

אמודיי מתייחס לאירוע שקשור לניסוי סוכנים של OpenAI מול Hugging Face.

במסגרת הניסוי, קבוצת סוכני AI חרגה מהמשימה שלה, תקפה יעדי סייבר שלא התבקשה לתקוף, הקריבה סוכנים בודדים לטובת הצלחת הקבוצה וניסתה להתערב במנגנון שאמור היה להעריך אותה.

לפי אמודיי, הסיפור הזה מדגים מה עלול לקרות כאשר נותנים למערכות אוטונומיות חזקות יותר לפעול יחד.

והוא חושש שבתוך 6 עד 12 חודשים, מערכות כאלה עלולות להיות בעלות יכולות מתקדמות בהרבה מאלו שראינו בניסוי.

חשוב להבהיר - זו הערכת סיכון של אמודיי, לא תחזית מוסכמת על כל החוקרים.

אז מה הוא מציע?

לא לעצור לחלוטין את פיתוח ה-AI.

אלא להכניס מנגנוני בטיחות ובקרה שיאפשרו לנו להמשיך להתקדם בלי לאבד שליטה.

ההצעה שלו כוללת שלושה שלבים: בודקים חיצוניים שיקבלו גישה עמוקה למעבדות ה-AI ויוכלו לפרסם את הממצאים שלהם באופן עצמאי, תקני בטיחות משותפים לחברות ולמדינות, ובהמשך גם הסכמות בינלאומיות מול סין.

מה שמעניין הוא ש-Anthropic לא רק קוראת לאחרים לעשות את זה, אלא גם מתחייבת לפתוח את הדלת שלה לבודקים חיצוניים.

ולא מדובר רק בקבלת דוח בסוף התהליך. הכוונה היא לתת לבודקים גישה כמעט כמו לעובדים פנימיים, כולל למידע על תהליכי הפיתוח והבדיקות של המודלים עצמם.

למאמר המלא של דריו אמודיי

והחלק המעניין בסיפור -

אמודיי מצטט במאמר את דמיס הסאביס, מנכ”ל Google DeepMind, ומפנה להצעה שפרסם ביולי להקמת גוף תקינה כלל-תעשייתי ל-AI מתקדם.

פחות מתשע שעות אחרי הפרסום, הסאביס הגיב בפומבי ותמך בכיוון.

גם אילון מאסק הסכים וסם אלטמן, מנכ”ל OpenAI, הביע תמיכה בצורך להאט את הקצב ואף הודיע ש-OpenAI תפעל לאפשר לבודקים חיצוניים גישה דומה.

שתי מעבדות שמתחרות זו בזו על פיתוח המודלים המתקדמים בעולם, אבל לפחות בשאלת הצורך בתיאום ובמנגנוני בטיחות, יש ביניהן הסכמה.

למה זה מעניין?

עד היום דיברנו הרבה על רגולציה שתגיע מלמעלה, מהממשלות.

אבל ייתכן שחלק מהכללים שישפיעו בפועל על הדרך שבה מערכות AI נבנות ומתנהגות יגיעו קודם דווקא מהתעשייה עצמה.

דרך תקנים וולונטריים, בדיקות חיצוניות והסכמות בין המעבדות.

כמובן, יש כאן גם שאלות לא פשוטות: מי יקבע את הכללים, מי יפקח על מי, והאם החברות הגדולות לא ייצרו בדרך גם חסמי כניסה למתחרות קטנות יותר?

ובזמן שמנהלי המעבדות מדברים על האטה, המרוץ העסקי ממשיך בכל הכוח. וזה בדיוק מה שהופך את ההצעות האלה למעניינות: האם אפשר להסכים על כללי בטיחות משותפים כשכל חברה רוצה להיות הראשונה להגיע לדור הבא?

והשאלה שאנחנו צריכים לשאול היא האם בכלל יש לנו היום מנגנונים מספיק טובים כדי להבין מה מערכות AI מסוגלות לעשות לפני שאנחנו משחררים אותן לעולם.
וזו שאלה שבעיניי רלוונטית לא רק לחברות שבונות את המודלים הגדולים, אלא לכל מי שבונה היום מוצר עם AI.

מוזמנים לדיון המלא

🛠️ חלק שני: ועכשיו לפרקטיקה

אז אחרי שדיברנו על מה שקורה ברמת התעשייה, בואו נרד למה שכבר מתחיל להשתנות אצלנו במסך.

שלושה דברים שכדאי להכיר, ואחד מהם רלוונטי במיוחד אם כבר בניתם לעצמכם או לארגון כלי AI מותאמים.

2. OpenAI נפרדת מה-GPTs

אם בניתם פעם GPT מותאם אישית, החלק הזה בשבילכם.

OpenAI הודיעה שהיא מתכננת להוציא משימוש את ה-Custom GPTs ולעבור ל-Plugins.

למשתמשי Enterprise שכבר קיבלו את תוכנית המעבר, לוח הזמנים המעודכן שפורסם הוא:

• 26 באוקטובר - הפסקת האפשרות ליצור GPTs חדשים.

• 11 בדצמבר - הפסקת הפעילות המתוכננת של ה-GPTs הקיימים.

לגבי תוכניות אחרות, OpenAI מציינת שהן צפויות לעבור מסלול דומה, אבל כדאי לעקוב אחר ההודעות בחשבון שלכם ולא להניח שהתאריכים זהים.

לשאלות והתשובות הרשמיות של OpenAI

רגע, אז כל מה שבניתם הולך לפח?

לא. החלק החשוב ביותר שבניתם - ההנחיות, הלוגיקה והידע - עדיין שימושי.

OpenAI מתכננת מסלול מעבר ל-Plugins, שמחברים בין הוראות לשימוש חוזר, מידע וכלים חיצוניים.

ומה עם Gems של גוגל?

נכון לרגע כתיבת המהדורה, גוגל לא הודיעה רשמית שהיא סוגרת את Gems.

אבל במקביל, גוגל ממשיכה לפתח את עולם הסוכנים שלה. לצד Spark, היא הכריזה השבוע על CC - סוכן AI למשפחות, שנועד לעזור לנהל יומנים, משימות ואת כל הלוגיסטיקה המשפחתית.

במקום שכל אחד ינהל את היומן והמשימות שלו בנפרד, הרעיון הוא לתת לסוכן תמונה משותפת של המשפחה ולאפשר לו לעזור בתיאום ובניהול השוטף.

CC עדיין ניסיוני והגישה אליו מוגבלת לארה”ב, אבל הוא ממחיש כיוון נוסף שמתחיל להסתמן: לצד סוכנים כלליים שמקבלים יכולות חדשות, החברות בונות גם סוכנים ייעודיים לתחומים מסוימים בחיים שלנו.

ואם התרגלתם ל gpts, אז הנה ההבדל -

ב-GPT מותאם אתם בדרך כלל צריכים לזכור שהוא קיים, להיכנס אליו ולהתחיל לעבוד בתוכו.

Skill יכול להפוך ליכולת שהמערכת יודעת להפעיל בזמן הנכון, כחלק ממשימה גדולה יותר.

ובעולם של סוכנים, זה הרבה יותר הגיוני.

אני לא רוצה חמישה בוטים שונים לחשיבה, כתיבה, ניתוח נתונים, CRM ומייל.

אני רוצה סוכן אחד שיודע להשתמש בחמש היכולות האלה כשצריך.

ויש פה עוד שינוי.

לפני כמה שנים, פרומפט טוב היה חלק גדול מהערך של בוט מותאם.

היום המודלים עצמם כבר הרבה יותר טובים בהבנת כוונה.

הערך שקשה להם להמציא לבד הוא דווקא הדברים שמחוץ למודל:

הנתונים שלכם. ההרשאות שלכם. הכלים שלכם, המנגנונים שבניתם והפעולות שמותר להם לבצע.

אז אם בניתם GPT שאתם משתמשים בו באופן קבוע, כדאי כבר עכשיו לשמור עותק מסודר של ההנחיות, הקבצים והחיבורים החיצוניים שלו. הידע שבניתם לא חייב ללכת לאיבוד, גם אם הדרך שבה נשתמש בו עומדת להשתנות.

3. Instinct - מה קורה כשנותנים לסוכן את המייל שלכם

ועכשיו מהתיאוריה למציאות.

Instinct הוא עוזר AI אישי שנמצא כרגע בגישה מוגבלת. אפשר להתכתב איתו ב-WhatsApp וב-iMessage, להתקשר אליו ולחבר אותו למייל, ליומן, להודעות ולשירותים נוספים.

הרעיון הוא לא לקבל תשובות.

הרעיון הוא להגיד לו:

“תזמין לי”, “תמצא לי”, “תטפל בזה”, “תענה”, “תארגן”.

והוא יעשה.

ותחשבו כמה שימושי זה יכול להיות.

עוזר שכבר מכיר את לוח הזמנים שלכם, יודע עם מי התכתבתם, יכול לתאם פגישות, לסגור משימות ולדאוג לדברים הקטנים שמעסיקים אותנו לאורך היום.

זו בדיוק ההבטחה של הדור החדש של העוזרים האישיים, ואני חושבת ששווה להתחיל להכיר אותה כבר עכשיו.

החברה שמאחוריו גייסה באוגוסט 250 מיליון דולר לפי שווי של 2.5 מיליארד דולר, עוד לפני השקה ציבורית מלאה.

רוצים לנסות את Instinct בעצמכם?

Instinct עדיין פועל במתכונת הזמנות. ההזמנות שחילקתי לקוראי המהדורה כבר נגמרו.

ההמלצה שלי היא להתחיל להכיר את העוזר, לשוחח איתו ולהבין מה הוא יודע לעשות, בלי למהר לחבר אליו את כל המערכות והמידע שלכם.

4. שווה לנסות השבוע: NotebookLM Shorts

ונסיים במשהו שאפשר פשוט לפתוח ולנסות.

ב-NotebookLM של גוגל יש פורמט בשם Short בתוך Video Overviews.

מעלים מקורות - דוח, מסמך, מחקר, חומר הדרכה - והוא הופך אותם לסרטון אנכי של בערך 60 שניות, כולל סיפור, קריינות ואנימציה.

וזה מסוג הפיצ’רים שאני אוהבת לא בגלל “וואו, AI יצר וידאו”, אלא בגלל שהוא פותר בעיה אמיתית:

יש לכם חומר חשוב שאף אחד לא קורא?

עכשיו אפשר להפוך אותו לתוכן קצר שאנשים אולי כן יצרכו.

נוהל חדש לעובדים, סיכום דוח, מחקר שרוצים להעביר להנהלה, חומר הדרכה או סיכום הרצאה.

הפורמט זמין למנויי Google AI Pro ו-Ultra, וגוגל הרחיבה את התמיכה בשפות, כך שהוא כבר לא מוגבל לאנגלית בלבד

והטיפ שלי

אל תיתנו לו ספר של 80 עמודים ותבקשו “תעשה סרטון של דקה”.

תחשבו הפוך.

מה הדבר האחד שאני רוצה שהצופה יבין אחרי 60 שניות?

תנו ל-NotebookLM רק את החומר שמשרת את המסר הזה ותדייקו אותו ב topic

התוצאה תהיה הרבה יותר טובה.

לכניסה ל-NotebookLM

ולסיום, מחשבה אחת לשנה החדשה

כשאנחנו מדברים על AI, אנחנו כמעט תמיד מדברים על מה שהוא עוד יוכל לעשות.

אבל ככל שהמערכות האלה הופכות ליותר עצמאיות, כדאי שנתחיל לשאול גם מה אנחנו רוצים שהן יעשו בשבילנו, ומה אנחנו מעדיפים להשאיר בידיים שלנו.

לא רק ברמת התעשייה, אלא גם אצלנו בעבודה ובחיים.

אז אולי זו יכולה להיות החלטה קטנה לשנה החדשה: לבחור תהליך אחד שהיינו רוצים לשפר בעזרת AI, ולעשות את זה באמת.

ללמוד משהו חדש או ליזום משהו חדש, בזכות קיומו של ה AI.

ואולי דווקא השנה, כשאנחנו מנסים להעביר ל-AI יותר ויותר משימות, כדאי שנחליט גם על מה אנחנו לא רוצים לוותר בדרך.

📌 קורסי AI הקרובים - קורס הדיגיטלי שלי של קלוד, בפורמט שלא כדאי לפספס בלינק הזה

📌 לארגונים - סדנאות והרצאות מותאמות על סוכני AI, כלי AI ועבודה חכמה איתם. כאן משאירים פרטים.

📌 הפודקאסט - “על בינה ויצירתיות”', פרק חדש ומומלץ שעוסק בתפקיד בילדרים ומנהלי מוצר

ולכל המצטרפים החדשים - Welcome 💙

אם קראתם עד כאן, איזה כיף!
שתפו איתי מה תפס אתכם ואם אהבתם.
ואם יש מישהו שהמהדורה הזו יכולה לעניין אותו, תרגישו חופשי להעביר.

גמר חתימה טובה ושנה של התפתחות, סקרנות, למידה, דיוק ועשייה,

דלית 💙