הכותרות שעניינו הכי הרבה גולשים בדף זה
16/07/25 12:42
7.22% מהצפיות
מאת אנשים ומחשבים
רד האט, הספקית המובילה בעולם של פתרונות קוד פתוח, הכריזה על Red Hat Enterprise Linux for Developers כדי לפשט את הגישה לפלטפורמת Red Hat Enterprise Linux המובילה בעולם, המשמשת לפיתוח יישומים ארגוניים והרצת תסריטי בדיקה. Red Hat Enterprise Linux for Business Developers מסייעת לצוותי פיתוח עסקי לפתח, לבדוק ולחזור על יישומים במהירות רבה יותר ובאותה פלטפורמה העומדת בבסיס מערכות פרודקשן בענן ההיברידי ללא עלות. פתרון חדש זה מאפשר למפתחים גישה בשירות עצמי באמצעות תוכנית המפתחים של רד האט.
לדברי שון פז, מנהל קבוצת ארכיטקטים אזורי ברד האט, "מורכבות ה-IT ממשיכה לגדול, במיוחד כאשר יישומים הפרוסים באתרים פיזיים, וירטואליים, בענן ובקצה מתערבבים עם עומסי עבודה של AI, יישומי Cloud Native ועומסי עבודה וירטואליים. בנוסף לכך אתגר אבטחת הסייבר הולך וגדל בשל עלייה מתמשכת לא רק בפגיעויות תוכנה, אלא גם בהתקפות על שרשרת אספקת התוכנה, על פי דו"ח סיכוני אבטחת המוצר האחרון של רד האט. אתגרים אלו מדגישים את החשיבות של פלטפורמה אמינה, מוקשחת ועקבית לא רק בסביבות ייצור, אלא גם בתחנות עבודה למפתחים".
לדברי פז, "Red Hat Enterprise Linux למפתחים עסקיים מטפלת ישירות בחששות אלה על ידי מתן גישה בשירות עצמי וללא עלות למפתחים לסט שלם של תוכן Red Hat Enterprise Linux מוכן לשימוש עסקי ארגוני. הכלי עוזר לספק עקביות ואמינות רבה יותר בתהליך הפיתוח בין צוותי מפתחים ותפעול, ללא קשר למיקום בענן ההיברידי של היישום המתקבל".
הצעת הערך של רד האט למפתחים כוללת, בין היתר: גישה פשוטה לפלטפורמת Linux Enterprise המובילה בעולם עם יכולת להקים 25 מינויים פיזיים, וירטואליים או בענן לכל משתמש הרשום בתוכנית המפתחים של רד האט. כך ניתן להפחית את החיכוך עם הצוותים המפעילים יישומים בסביבות הייצור. בנוסף, קיים תוכן מפתחים שנאסף ועומד לרשות המפתחים, כולל רבות משפות התכנות העדכניות ביותר של יישומי קוד פתוח, כלים ומסדי נתונים הנחוצים לבניית יישומים ארגוניים של הדור הבא. כמו כן כוללת הסביבה כלי פיתוח בקוד פתוח לסביבת קונטיינרים עם Podman Desktop, כלי פיתוח הקונטיינרים המועדף על רד האט.
משתמשי Red Hat Enterprise Linux for Business Developers יוכלו לרכוש מגוון מנויים אופציונליים לתמיכה במפתחים של Red Hat, מה שמביא את עשרות שנות המומחיות של רד האט בלינוקס לתמיכה בפרויקטים שלהם.
מפתחים העובדים מחוץ ל-IT המסורתי, כגון בתחום העסקי, יכולים כעת לגשת ביתר קלות ל-Red Hat Enterprise Linux כדי להתחיל לפתח פרויקטים חדשים. מפתחים אלה יכולים גם לבנות ולבדוק באותה פלטפורמה שאושרה לסביבות הייצור, מה שמקל על העברת יישומים תוך הפחתת החיכוך בין צוותי הפיתוח לצוותי התשתיות וה-SRE.
16/07/25 16:44
6.67% מהצפיות
מאת אנשים ומחשבים
"הופעת הבינה המלאכותית היוצרת הביאה לשינוי דרמטי, משמעותי וחסר תקדים לעולם, ובתוכו למקצוע הרפואה. ה-AI יכולה לסייע בהיבטים רבים, למשל קיצור הטיפול, קיצור האבחון וזיהוי של מחלות חבויות. הבינה המלאכותית מעניקה מעין עיני רנטגן על סטרואידים לסופרמן ותועלותיה, לצד הסיכונים – רבות", כך אמר פרופ' רן בליצר, סמנכ"ל וראש מערך החדשנות בשירותי בריאות כללית.
פרופ' בליצר דיבר בכנס השנתי של העמותה לניהול פרויקטים, PMI ישראל, שנערך היום (ד'), בהפקת אנשים ומחשבים, באולם האירועים לאגו בראשון לציון, בהשתתפות מאות מקצוענים.ות מהתחום. הכנס התקיים זו הפעם ה-29 ונשא את הכותרת "אומנות ניהול הפרויקטים".
ד"ר מק'קוי, קפטן קירק ומיסטר ספוק ממסע בין כוכבים. צילום: ShutterStock
הוא ציין את ד"ר מק'קוי, הרופא מהסדרה המיתולוגית מסע בין כוכבים, ש-"היה לו מכשיר אבחון בכף היד, ששיקף את עתיד הרפואה. הלוואי שלכל רופא.ה היה מכשיר שכזה, שהיה מעשיר ומשפר את יכולות הצוותים הרפואיים".
"שיפור רמת האבחון הוא מחויב המציאות", אמר פרופ' בליצר, ופירט: "אחד מכל ארבעה מטופלים שמגיע לבית חולים בארצות הברית יוצא בסוף האשפוז עם נזק שנגרם בשל טעויות – ולא עקב מחלתו והסיבה לאשפוז. אחד מכל 11 מטופלים שכאלה יוצא מהאשפוז עם נזק חמור. שימוש בטכנולוגיה משולבת חשיבה מחוץ לקופסה יכול לייעל את הטיפול. כך עשינו בכללית: שיפרנו פי 100 את הליכי האיתור של הלוקים בהפטיטיס C, שהוא הגורם מספר 1 לסרטן ולשחמת הכבד". "שיפור נוסף", ציין, "הושג כשהכנסנו הליך של סריקות אוטומטיות מבוססות AI לצילומים, שמראה באופן מיידי האם למטופל.ת יש שבר".
"העולם רץ קדימה", אמר, "והגענו למצב אבסורדי, שבו בדיקה ואבחון שייעשו ללא בינה מלאכותית יוגדרו כ-'תת תקן' בעשייה הרפואית. זה מובן, כי עין של בן אנוש פחות טובה מ-'עין' של מחשב".
"המהפכה הגדולה ביותר – בחיזוי המחלות"
פרופ' בליצר ציין כי "המהפכה הגדולה ביותר קורית בעולם חיזוי המחלות והמצבים הרפואיים. נהיה מסוגלים למפות עבור המטופלים 'מסלול יציאה' מהבעיה הרפואית עוד לפני שהיא בכלל הספיקה להשפיע. כך, למשל, הצוות הרפואי יצלצל למטופל.ת ויאמר: 'ביומיים-שלושה הבאים יהיה לך התקף לב. נא לבוא למרפאה בהקדם'. זה כבר לא מדע בדיוני ולא חדש – יש בכללית רפואה חיזויית מזה 15 שנים. המשכנו במסע, וניבאנו סיבוכי שפעת לקראת החורף. מזה עשור אחיות מתקשרות למטופלים לפי רמת הסיכון ומזמינות תור לחיסון. זה נעשה על בסיס לימוד מכונה. הבינה המלאכותית היא לא אירוע מונוליטי, אלא אוסף של כלים, חלקם ותיקים, ובכלי ה-AI הישנים אין סכנות כגון הזיות".
"הבעיה בחיזוי היא שמרוב חיזוי לא מצליחים לעשות סדר", הוסיף. הוא ציין כי בכללית, הוא ואנשיו פתרו את הבעיה הזאת על ידי יצירת דרך לחבר תובנות וחיזויים: "כיום, רופא המשפחה לא מטפל לבד – יש מאחוריו מערכת תומכת של מומחי מקצועיים ויועצים, בזמן אמת. בהקבלה, רופא המשפחה הוא גם מנהל פרויקטים, כי הוא מנצח על תזמורת רפואית מורכבת".
"הבינה המלאכותית משנה את התפקידים והתפקוד בעולם הבריאות"
בהמשך אמר פרופ' בליצר כי "הבינה המלאכותית משנה את התפקידים והתפקוד בעולם הבריאות. היא החלה כ-'לחשן', יועץ שאומר איך לטייב הליכים. לאחר מכן היא סייעה לקיצורי האבחונים, למציאת ממצאים ולתעדוף של הטיפולים".
"הבינה המלאכותית מתפתחת ומעלה אתגרים חדשים, למשל – מי יסמיך את הרופא הממוחשב לרשום מרשמי תרופות?", ציין.
"ככלל", הוסיף, "הטכנולוגיה, ובתוכה ה-AI, מסייעת למערכת הבריאות להשתנות, על מנת שלא תקרוס. זו הזדמנות להמציא מחדש את שירותי הבריאות: במקום גילוי מאוחר או טיפול שגוי, היא מסייעת להסיט את המצב למסלול הנכון, עם הטיפול הנכון, למטופל הנכון – בזמן הנכון וכבר בניסיון הראשון".
"AI ברפואה זה לא רק העתיד, זה כבר חלק מההווה. על מערכת הבריאות והצוותים הרפואיים לקבל את השינוי – אין טעם להתנגד לו ולטמון את הראש בחול כבת יענה. השינוי מתחולל – טמונות בו הזדמנויות לכולם, לצד סיכונים, שיש לנהל אותם. ה-AI תשפר את חיי הרופאים, תייתר מהם חלקים בנאליים, תיעודיים ומנהלתיים – ותשאיר לצוות הרפואי יותר מקום וזמן להעניק למטופלים תמיכה וחמלה. אלה חדשות טובות עבור המטופלים והמטפלים", סיים פרופ' בליצר.
16/07/25 11:41
6.11% מהצפיות
מאת אנשים ומחשבים
חברת התוכנה PTC, אירחה במרכז הפיתוח שלה בהרצליה, עשרות מומחים ומהנדסים מישראל ומהעולם התארחו במרכז הפיתוח של חברת התוכנה PTC בהרצליה, ולקחו חלק בדיונים אסטרטגיים לקראת תכנון והשקת הגרסאות העתידיות של Creo – שהיא תוכנת הדגל של החברה – פלטפורמת תיב"ם (תכנון בעזרת מחשב) מהמובילות בעולם, המיועדת למהנדסים ולמפתחים בתעשיות כמו תעופה, רכב, אלקטרוניקה , ומשמשת חברות ענק, בהן טויוטה, וולוו, BMW, סקודה, קרלסברג, אינטל, פיליפס, איירבס, היטאצ'י, בלו אוריג'ין, רולקס, דל ועוד.
Creo, המפותחת בישראל בשני מרכזי הפיתוח של החברה בחיפה והרצליה, מאפשרת תכנון תלת־ממדי מדויק, סימולציות מתקדמות, שילוב טכנולוגיות של מציאות רבודה (AR), הדפסת תלת־ממד ויכולות AI חדשניות.
במהלך האירוע ביקרו המשתתפים גם במעבדת DPRC בטכניון, שם הוצגו פרויקטים פורצי דרך בשיתוף פעולה עם התעשייה.
"זו זכות גדולה עבורנו לארח את מובילי הפיתוח של Creo כאן בישראל", אמר מיכאל שטיין, דירקטור ב-PTC ישראל. "האירוע מהווה הוכחה נוספת למעמד הבינלאומי של הצוות המקומי ולתרומה המשמעותית שלנו לעיצוב העתיד של תעשיית התכנון ההנדסי."
16/07/25 16:18
6.11% מהצפיות
מאת אנשים ומחשבים
בית המשפט המחוזי בבאר שבע גזר באחרונה עונש של 13 שנות מאסר על תושב הדרום שביצע עבירות מין בשתי אחייניותיו הקטינות, תאומות בנות ארבע, תיעד את מעשיו המחליאים והעביר את הסרטונים והתמונות באמצעות סקייפ – כך הותר היום (ד') לפרסום.
הנאשם, ששמו נאסר לפרסום עקב הקרבה המשפחתית שלו לקטינות, הודה והורשע במסגרת הסדר טיעון בביצוע עבירות של אינוס קטינה בת משפחה, מעשים מגונים, עשיית פרסום תועבה בדמותו של קטין בידי אחראי ועבירות נוספות.
על פי כתב האישום, שהוגש לבית המשפט על ידי מחלקת הסייבר בפרקליטות המדינה, צחי קראוס, שההליך נגדו הסתיים לא מכבר, הציג את עצמו ברשת כקטינה בת 11 בשם שני וניהל שיחות בעלות אופי מיני עם משתמשים שונים, בהם דודן של הקטינות – הנאשם. הדוד התכתב תחילה עם קראוס בסקייפ, התכתבויות שנשאו אופי ותכנים מיניים. בהמשך הוא הציע לקראוס לקיים שידור חי עם אחייניותיו, שבמהלכו יפשיט אותן ויבצע בהן עבירות מין. כאשר הקטינות נותרו בדירה עם הדוד ואביו, הסבא שלהן, צילם הדוד, בהנחייתו של קראוס, תמונות אינטימיות שלהן, כשהן ערומות, וביצע בהן עבירות מין חמורות. הנאשם הסריט את מעשיו, והעביר לקראוס את התמונות והסרטון באמצעות הסקייפ. נזכיר כי מבחינת הנאשם, הוא שוחח עם ילדה בשם שני, תלמידת כיתה ז'.
"הרתעה הן כלפי הנאשם והן כלפי הציבור"
השופטים גילת שלו, איתי ברסלר-גונן ופאני גילת כהן קבעו בגזר הדין כי "לאור טיב העבירות שבהן הורשע הנאשם – עבירות מין קשות בקטינות רכות בשנים והפצת תכנים פדופיליים ברשת האינטרנט, על בית המשפט לתת משקל של ממש גם לשיקולי ההרתעה". הם ציינו כי מדובר "הן בהרתעת היחיד, הנאשם עצמו, בעיקר כשמדובר במי שלא נוטל אחריות מלאה למעשיו וטרם השתלב בטיפול מתאים, והן בהרתעת הרבים, הציבור בכללותו, מביצוע עבירות דומות". זאת, נכתב, "בדרך של הטלת עונשי מאסר משמעותיים, שיביעו את הסלידה והזעזוע מהמעשים".
האירוע נחשף לאחר שאזרח ראה את הסרטון של שתי הילדות ברשת ופנה למוקד 105 במשטרה.
עו"ד אלעד דיין ממחלקת הסייבר בפרקליטות המדינה, שניהל את ההליכים נגד הדוד ונגד קראוס, עתר לעונש של 14 שנות מאסר. כאמור, בית המשפט השית על הנאשם עונש של 13 שנות מאסר, ובנוסף מאסר על תנאי ופיצוי כספי בסך של 160 אלף שקלים לשתי הקטינות, אחייניותיו.
כאמור, ההליך בעניינו של קראוס הסתיים זה מכבר. קראוס הודה והורשע בשורה של עבירות מין כלפי מספר רב של מתלוננים שבוצעו במרחב הווירטואלי, ונידון לעונש של 10 שנות מאסר ופיצוי כולל בסך של 100 אלף שקלים, מתוכו 93 אלף שקלים לשתי הקטינות.
16/07/25 10:15
5.56% מהצפיות
מאת אנשים ומחשבים
חברת פלאפון, בניהולו של אילן סיגל, דיווחה אתמול לבורסה על הגשת הצעה לקבוצת אלטיס לרכישת חברת הוט מובייל בסכום כולל של 2 מיליארד שקלים. להוט מובייל כ-1.5 מיליון מנויים.
בדיווח לבורסה נמסר, כי מסמך הכוונות כולל מתווה עסקי ראשוני, בלתי מתחייב וככל שייחתם בסופו של התהליך הסכם מחייב, ביצועו יהיה כפוף לאישורים רגולטוריים שונים ובהם משרד התקשורת והממונה על התחרות הכלכלית.
פלאפון, שהיא חברה בבעלות בזק וחברה אחות של יס, היא החברה הראשונה שפעלה בישראל בתחום הסלולר. לחברה יש מעל ל-2.6 מיליון מנויים, מתוכם למעלה מ-1.5 מנויים בדור 5 והיא הראשונה שהפעילה ליבת רשת דור 5 עצמאית.
16/07/25 11:10
5.56% מהצפיות
מאת אנשים ומחשבים
החומה הגדולה של סין, שאורכה 8,851 ק"מ, נבנתה מאז המאה ה-5 לפני הספירה עד המאה ה-16, כדי להגן על האימפריה הסינית מפני פשיטות של ברברים ממונגוליה וממנצ'וריה. פרויקט 'מגן מוזהב', חומת האש הגדולה של סין, (The Great Firewall of China), היא מערכת צנזורה וסינון אינטרנטית כבדה במיוחד, שמפעילה ממשלת סין, במטרה לשלוט במידע ולהגביל את הגישה של אזרחיה לאינטרנט ולתכנים מסוימים אחרים.
בשבוע הבא תעשה בייג'ינג צעד נוסף להגדלת כוחה הריכוזי ברשת, ותשיק מערכת זיהוי דיגיטלית ממשלתית, שתאפשר לה לצנזר ולפקח עוד יותר על מיליארד משתמשי האינטרנט במדינה.
מזה עשור שסין אוכפת מערכת "רישום שמות אמיתיים", במסגרתה חברות אינטרנט סיניות יודעות את זהותם האמיתית של לקוחות המזמינים מוצרים, כמו גם של מי מהם שמגיבים ברשתות החברתיות או שמשחקים אונליין.
במערכת הזיהוי הריכוזית החדשה, ממשלת סין שולטת בתהליך: משתמשים שישלחו פרטי מידע אישי – כולל סריקות פנים – יקבלו קוד ייחודי לגישה לחשבונות מקוונים.
משמעות המהלך היא שענקיות מדיה חברתית כמו Weibo, או ענקיות סחר מקוון, כמו עליבאבא, לא יוכלו לראות את פרטי המידע האישי של המשתמשים – אבל הממשל יוכל לדעת את הזהות האמיתית של המשתמשים.
למרות שהתוכנית מוצבה כרשות ולא חובה, מומחים חוששים שהיא לא תישאר כזו, או שתהפוך להכרחית ותהיה לחובה, הלכה למעשה. 1/4 #China’s plan to introduce a nationwide digital identification system has been met with criticism of government overreach in a country that already closely monitors and censors speech, wrote Bloomberg’s Josh Xiao. pic.twitter.com/A1lOV4U360
— Diana Choyleva (@choyleva) August 9, 2024 סוף עידן האנונימיות
בראיון לוושינגטון פוסט אמרה לורה אדלסון, מדענית מחשבים באוניברסיטת נורת'איסטרן בבוסטון: "קשה להסתכל על צעדים כאלה. מיד מבחינים בכוונה לגרום לאנשים לא לחוש אנונימיים". אדלסון חיברה באחרונה דו"ח על מערכת הצנזורה המקוונת של סין. "הם רוצים שהשוטר יהיה בראש שלך, ודרך חשובה מאוד לגרום לאנשים להרגיש כך, היא להסיר כל אשליה שהם אנונימיים", הוסיפה.
הממשל הצדיק את השקת המערכת והנהלים החדשים בנימוק של רצון בהגנת פרטיות ונתונים. פקידים אמרו כי המערכת תגן טוב יותר על המידע הרגיש של אנשים מפני חברות מדיה חברתית, דליפות נתונים ורמאים. "המערכת מאפשרת לציבור להרגיש באמת 'ביטחון בהישג יד' תוך שהוא נהנה מהנוחות", כתבה סוכנות הידיעות הממלכתית שינואה.
המבקרים את המערכת אמרו כי היא תוביל לריכוז הנתונים בידי ממשלת סין, שהיא כבר כיום בעלת גישה לשפע של מידע אישי על אזרחיה. "מדובר בשינוי חשוב, שמחמיר את המצב", צוטט פעיל זכויות אדם (אנונימי) מהונג קונג.
מומחים אחרים העלו חשש לפיו המערכת עלולה להקל על בייג'ינג לאכוף "גלות דיגיטלית": בה אנשים אינם מורשים, וננעלים מחוץ לאפליקציות ושירותים מקוונים הנדרשים לפעילויות יומיומיות רבות בסין – כולל תשלום על ארוחת צהריים, נסיעה ברכבת התחתית, או תקשורת עם עמיתים לעבודה.
מדען מחשבים, שחקר את חומת האש הגדולה, אמר כי "המזהה הדיגיטלי יכול לסלול את הדרך לצנזורה מותאמת אישית יותר. כך, בייג'ינג יכולה לאסור תוכן ספציפי עבור אנשים או אוכלוסיות ספציפיות, ותתקבל צנזורה ברמה האישית, עם שליטה אשר גדלה דרמטית".
16/07/25 15:56
5.56% מהצפיות
מאת אנשים ומחשבים
שלוש מעבדות דמיון חדשות נחנכו באחרונה בשלושה בתי ספר במועצה האזורית מטה אשר שבגליל המערבי – רגבה, גוונים ומקיף השלום – שייח' דנון. אלה מצטרפים לשני בתי ספר במועצה שכבר יש בהם מעבדות דמיון – מעיינות ותפוח פיס סולם צור.
פרויקט מעבדות הדמיון הוא יוזמה של קרן אתנה, שהושקה ב-2022 ונועדה להכניס חדשנות פדגוגית לכל בתי הספר בישראל באמצעות מרחבי למידה אימרסיביים-אינטראקטיביים. בכל מעבדת דמיון מותקנים אמצעים טכנולוגיים מתקדמים להקרנה על קירות ורצפה, שיוצרים סביבה אינטראקטיבית רב חושית, עשירה בתוכן חזותי וקולי. עד כה הותקנו כ־100 מעבדות דמיון ברחבי הארץ ועד סוף השנה צפויות להיפתח כ-30 נוספות.
משה דוידוביץ', ראש המועצה האזורית מטה אשר, מתנסה במעבדת דמיון בבית הספר רגבה. צילום: קרן אתנה
אורי בן ארי, נשיא ומייסד קרן אתנה, ציין כי "מעבדת הדמיון נולדה מתוך ההבנה שתלמידות ותלמידים זקוקים לחוויית למידה שתשאיר חותם. זו לא רק טכנולוגיה – זו תפיסת עולם, שמעצימה את הלמידה וההוראה גם יחד".
"למידה נגישה, מסקרנת משמעותית"
איריס אלטיט, מנהלת בית הספר גוונים, אמרה בטקס חנוכת המעבדה כי היא "תאפשר לכל ילד, ללא קשר ליכולותיו ולכישוריו, לחוות למידה נגישה, מסקרנת ומשמעותית".
עדי הראל, מנהל בית הספר רגבה, ציין כי "מעבדת הדמיון איננה רק חדר – היא פתח לעתיד שבו התלמיד לא רק קורא על מערכת השמש, אלא עומד על כוכב צדק ומביט סביבו; לא רק שומע על ירושלים של פעם, אלא צועד בסמטאותיה העתיקות; לא רק לומד שפה חדשה, אלא נמצא בזמן אמת בלב עיר זרה – שומע, מדבר וחווה". לדבריו, "המעבדה נועדה בראש ובראשונה עבור התלמידים – זו הזדמנות עבורם לחלום בגדול, להעז, לדמיין ולהפוך את הלמידה להרפתקה".
בטקס ההשקה השתתפו גם, בין היתר: משה דוידוביץ', ראש המועצה האזורית מטה אשר; דן תנחומא, מנכ"ל המועצה; ד"ר שלומית אלעד, מנהלת אגף החינוך בה; איגור בייגל, מנהל מחשוב מוסדות חינוך באגף זה; מוחמד אסלן, מנהל בית הספר מקיף השלום – שייח' דנון; ובכירים נוספים מהמועצה וממערכת החינוך באזור.
16/07/25 16:08
5.56% מהצפיות
מאת אנשים ומחשבים
חוקרי בינה מלאכותית מובילים מחברות ענק מתחרות, בהן OpenAI, דיפ-מיינד (DeepMind) של גוגל, אנת'רופיק (Anthropic) ומטא (Meta), החליטו באחרונה באופן נדיר לאחד כוחות, וזאת על מנת לטפל באחת הסוגיות הבוערות ביותר בתחום: הבנת תהליכי החשיבה הפנימיים של מודלי ה-AI המתקדמים.
המהלך מגיע על רקע אזהרות של מומחים כי חלון ההזדמנויות הייחודי לניטור תהליכי החשיבה של הבינה המלאכותית עלול להיסגר בקרוב, והיכולת שלנו לפקח על מערכות אלה הולכת ונשחקת ככל שהן הופכות אוטונומיות ומסוגלות יותר. החוקרים כבר הסבירו כי אינם מבינים את ה-AI לעיתים, והבהירו שהם חוששים מהיום שבו היא תפעל אוטונומית ולא יהיה ניתן עוד לפקח עליה. Chain of Thought (CoT) monitoring could be a powerful tool for overseeing future AI systems—especially as they become more agentic. That’s why we’re backing a new research paper from a cross-institutional team of researchers pushing this work forward. https://t.co/dmM8azLcWE
— OpenAI (@OpenAI) July 15, 2025 לפצח ולנטר את "שרשרת המחשבה"
בליבת המאמץ המשותף הזה עומד הרעיון של ניטור "שרשרת המחשבה" (Chain-of-Thought – CoT). שיטה זו, המהווה טכניקת הנדסת פרומפטים, מאפשרת למודלי השפה הגדולים (LLMs) לפרט את שלבי הביניים שלהם תוך כדי פתרון בעיה, ובכך היא מספקת הצצה ייחודית לתהליך ההיגיון הפנימי של ה-AI. במקום לתת תשובה ישירה, הבינה המלאכותית מפרטת את הצעדים הלוגיים שהובילו אותה אליה, בדומה לחשיבה האנושית. לדוגמה, אם נשאל AI מדוע השמיים כחולים, בשימוש ב-CoT היא תגדיר תחילה מהו "כחול", ורק אז תסביר את תופעת פיזור האור באטמוספירה הגורמת לשמיים להיראות כחולים. יכולת זו נחשבת לתכונה מתפתחת, שמופיעה ככל שמודלי ה-AI גדלים והופכים למורכבים יותר.
ניטור CoT, כך מסתבר לפי דברי החוקרים, מאפשר לנו לבחון כיצד המערכת קיבלה החלטה, ובכך עוזר לזהות התנהגות מזיקה עוד לפני שתתממש. האפשרות לראות את התהליכים הללו חושפת את כוונותיו האמיתיות של המודל, כולל כוונות מזיקות פוטנציאליות.
לפי דבריהם של איליה סוצקבר, מדען מחשבים מוביל ואחד המייסדים השותפים של OpenAI, שהוא כיום מנכ"ל Safe Superintelligence, ו-ד"ר ג'פרי הינטון, שזכה אשתקד בפרס נובל לפיזיקה על תרומתו לבינה מלאכותית בהקשר של רשתות נוירונים מלאכותיות – חיוני להבין את המנגנונים הפנימיים של ה-AI לפני שהמערכות הללו יהפכו אטומות מדי.
הינטון, שהיה בכיר ב-גוגל, פרש מהחברה באפריל 2023 והחל להתריע בפומבי על האיומים הפוטנציאליים שטמונים בהתפתחות הבינה המלאכותית. לדבריו, אחת הסכנות המרכזיות נעוצה בכך שהמודלים מסוגלים ללמוד זה מזה, וניתן לשכפל אותם בקלות ממחשב למחשב – כולל גם את הארכיטקטורה וגם את המשקלים שלהם. מאפיינים אלו הופכים את המודלים לא רק לניתנים לשכפול אלא גם לבעלי פוטנציאל קיום תמידי. בנוסף, הוא מצביע על הופעתן של תכונות בלתי צפויות, במיוחד בתחום של מודלי השפה הגדולים. לדבריו, מכלול המאפיינים הללו גרם לו להבין שאין מדובר רק בניסיון חיקוי פשוט של פעילות המוח האנושי, אלא במשהו שונה מהותית, שגלומות בו סכנות אפשריות ממשיות לעתיד האנושות, מאחר שהמערכות עשויות להגדיר לעצמן מטרות פעולה עצמאיות, למעשה, לדבריו, כבר כיום הן מפגינות יכולות הנמקה, קבלת החלטות ועמידה במבחני אינטליגנציה – שבזמן הפיתוח שלהן כלל לא נלקחו בחשבון.
ג'ייקוב פאצ'וקי, סמנכ"ל הטכנולוגיות של OpenAI ושותף לכתיבת המסמך שהוציאו החוקרים, הביע התרגשות רבה מפוטנציאל הפרשנות של שרשרת המחשבה,. מאידך בואן בייקר, חוקר נוסף מ-OpenAI ומוביל המחקר המשותף, ציין כי "היכולת הקיימת לניטור CoT יכולה להיות שברירית ביותר".
כוונת פאצ'וקי היא בעיקר שהשקיפות המסוימת שניתן להשיג מניטור ה-CoT היא שברירית ועלולה להיעלם גם היא ככל שטכנולוגיות ה-AI יתקדמו.
גם חוקרים אחרים מזהירים כי שיטות אימון עתידיות – כמו למידה באמצעות חיזוקים, המעניקה פרסים למודלים על תשובות נכונות ללא בדיקת תהליך ההגעה אליהן – עלולות לגרום למודלים להפסיק לחשוב בצורה שתהיה קריאה לבני אדם. מעבר לכך, אם מודלים יתחילו ללמוד מתוכן שנוצר על ידי בינה מלאכותית אחתר, שפתם יכולה להפוך קשה יותר למעקב אנושי.
עד כמה שזה נשמע מופרך – קיים גם חשש שמודלים ינסו להסתיר את מחשבותיהם, אם ידעו שהם מנוטרים. מחקרים כבר הראו כי מודלי AI השתמשו בנימוקים מטעים, כאשר ניתנו להם רמזים לפעולות בלתי מורשות. מחקר של אנת'רופיק מצא כי מודלים מסוימים, כמו Claude 3.7 Sonnet, הציגו הסברים כוזבים מורכבים, במקום להודות בשימוש בקיצורי דרך מפוקפקים, מה שמעלה חשש שהכלים המתוכחמים בוחרים "להיראות בטוחים" במקום "להיות בטוחים". הדבר, כך טוענים החוקרים הבכירים, מצביע על כך שחלון הבטיחות עלול להיסגר מהר יותר מהצפוי.
כמו כן, סוגים חדשים של מערכות AI, שאינם מסתמכים על שפה כדי לחשוב, אלא מנמקים במרחבים מתמטיים מופשטים, עלולים להפוך את יכולת הניטור לבלתי אפשרית לחלוטין. אפילו החוקרים מהחברות עצמן חוששים מכך שענקיות הטכנולוגיה – המתחרות ביניהן על כישרונות ופריצות דרך בתחום המבוקש – מגיעות לעיתים לשחרור מהיר מדי של מודלי היגיון חדשים, פעמים רבות ללא הבנה מספקת של אופן פעולתם הפנימית. וזה זה עניין המדגיש את הדחיפות שבמאמץ הנוכחי. יצוין כי אנת'רופיק מצידה התחייבה "לפרוץ את הקופסה השחורה" של מודלי ה-AI עד שנת 2027, ומשקיעה רבות ביכולת פירוש והבנה זו. אך אפשר שהיעד הזה יתגלה כמאוחר מדי. AI godfather Geoffrey Hinton says the threat of superintelligent AI deciding it doesn't need us is a real risk.
"We've never been in that situation before. We've never had to deal with things smarter than us." pic.twitter.com/QJRjn5BpYf
— ControlAI (@ai_ctrl) July 14, 2025 יחד ננצח?
המסמך המשותף (נייר עמדה בהגדרתו) שהוציאה קבוצת החוקרים קורא לפעולה מתואמת בכל תעשיית ה-AI, כדי לשמר ולחזק את יכולות הניטור המדוברת. המלצות כוללות מעקב אחר יכולת הניטור של מודלים, אפשרות לשמור גרסאות ישנות יותר ושקופות יותר, ופרסום הערכות לגבי נראות ה-CoT. כמו כן המסמך קורא למטריקות סטנדרטיות ול'כרטיסי מערכת' שקופים – ומסביר כי אלו צעדים שהם לא רק מוצדקים אלא אף הכרחיים ומאוחרים מדי.
החוקרים גם קוראים לשיתוף פעולה בין התעשייה, האקדמיה והממשלות, במטרה לשתף משאבים וממצאים אלו עם אלו.
יצוין כי למרות כל זאת, ניטור CoT אינו תחליף למאמצי בטיחות אחרים, והחוקרים הסבירו כי יש לראות בו כלי משלים לבדיקות אחרות. קיים אתגר גם ביכולת לאזן בין שימור תהליכי חשיבה אותנטיים של המודלים לבין צורך בפיקוח בטיחותי על תוצריהם. בנוסף, הניטור המסוים אמור להעניק הצצה לאופן שבו מודלים חושבים, אך אינו יכול לראות הכל, וייתכנו סיכונים בטכנולוגיה המסוימת שאינם דורשים היגיון עמוק כלל.
החוקרים ציינו במסמך שלהם, כי האירוניה היא שבעוד שהעולם "דן בלוחות זמנים לפיתוח בינה מלאכותית כללית (AGI – שהיא דור מתקדם בהרבה של הטכנולוגיה הקיימת- ג"פ), היכולת הבסיסית שלנו לפקח על המערכות הקיימות עלולה לחמוק מידינו".
שיתוף הפעולה בין החברות המתחרות מדגיש את חומרת הסוגיה בעיני התעשייה, או כפי שצוין במסמך, הרגע הזה כעת עשוי להיות ההזדמנות האחרונה להבטיח שבני אדם יוכלו עדיין להבין מה יצירות ה-AI שלהם חושבות – לפני שמחשבות אלה יהפכו זרות מדי להבנה, או לפני שהמודלים ילמדו להסתירן לחלוטין.