Loading…
Loading…
דריו אמודאי קורא לקצב פיתוח מבוקר של בינה מלאכותית מתקדמת. סם אלטמן מסכים עם הצורך ומתחייב גם הוא לבודקים עצמאיים עם גישה דומה לזו של עובדים.
בדקה וחצי: מה הובטח, איך אפשר לחשוב על בדיקה עצמאית בדרך להשקה, ומה עדיין חסר כדי שלממצאים יהיו השלכות ברורות.
התרשימים בסרטון הם המחשות רעיוניות. עקומות היכולת והשליטה אינן נתונים מדודים, והתרשימים אינם תיעוד של תהליך שכבר מיושם. השאלות על ספים, סמכות ותגובה לממצאים הן הפרשנות שלי.
המהדורה העברית של Frontier Brief מס׳ 2.
אמודאי קורא להאט את קצב הפיתוח בחזית, ואלטמן מסכים עם הצורך.
מרוץ היכולות והשליטה הוא המסגור — התרשימים הם המחשה רעיונית, לא נתונים מדודים.
התוכנית בנויה בשלוש רמות, והבדיקה העצמאית היא רק אחת מהן.
מה שחסר אינו תחנת הבדיקה אלא ההשלכות: מה קורה כשיש ממצא.
ההתחייבות לבודקים עצמאיים אינה מגדירה מי מחויב לפעול כשממצא בטיחותי מתנגש עם תאריך השקה.
המבחן האמיתי: גישה למידע, זכות פרסום, ואחריות ברורה לתגובה.
אמודאי קורא להאט, אלטמן מסכים
מרוץ היכולות והשליטה
התוכנית בשלוש רמות
תחנת בדיקה בדרך להשקה
ההתחייבות של OpenAI ומי מחויב לפעול