ל-AI מותר להשתמש בקליניקה. אסור לו להפוך למסד הנתונים שלה.
AI שימושי ובטוח הוא לא כזה ש“יודע הכול”, אלא כזה שיכול לבצע בדיוק את העבודה שהורשה לבצע — דרך אותם כללי אפליקציה כמו כל משתמש אחר.
Menaela מתייחסת ל-LLM כ-Orchestrator מעל שכבת אפליקציה מבוקרת: הוא מפרש כוונה ובוחר כלים, אבל זהות, הרשאות, כללים עסקיים ושמירת מצב נשארים מחוץ למודל.
השאלה החשובה אינה האם מודל AI יכול לטעות. הוא יכול. השאלה היא האם טעות של המודל הופכת אוטומטית לטעות בלתי-מוגבלת בנתונים או בחוקי העסק.
מסד נתונים נפרד לכל קליניקה
לכל קליניקה מסד PostgreSQL תפעולי משלה. תשתית אפליקטיבית משותפת אינה אומרת מאגר נתוני Tenant משותף.
כלי AI קשורים לקליניקה
ה-AI מקבל הקשר קליניקה בלתי-משתנה ואינו יכול לבחור קליניקה אחרת כשהוא מפעיל פעולה.
אין ל-AI גישה ישירה למסד
Menaela הראשית עובדת דרך כלים אפליקטיביים סמנטיים, לא SQL חופשי או כתיבה ישירה ל-PostgreSQL.
פעולות מודעות להרשאות
שכבת הביצוע נושאת את המשתמש, הקליניקה והתפקיד ומיישמת הרשאות על כל פעולה.
ולידציה מובנית
ארגומנטים ותוצאות נבדקים מול חוזים מפורשים לפני שבקשה שמקורה במודל הופכת לפעולת מערכת.
Audit
אפשר לעקוב אחרי שינויים שמקורם בסוכן לפי משתמש, קליניקה, כלי, אובייקט ותוצאה.
בידוד בצד המטופל
שיחות אוטונומיות חיצוניות מקבלות קטלוג יכולות מצומצם בכוונה. שיחת מטופל אינה יורשת את הכוחות של עוזר הצוות.
הסמכות הקלינית נשארת אצל אדם
תיעוד שנוצר ב-AI נשאר טיוטה עד שמטפל בודק וחותם; היסטוריה חתומה מוגנת משכתוב שקט.
המודל מציע; האפליקציה מחליטה.
ה-LLM בוחר יכולת רשומה שיכולה להתאים לבקשה. האפליקציה מחליטה אם הפעולה מותרת, תקפה ועומדת בכללי הקליניקה.
זהות אינה Prompt.
גבולות של קליניקה, משתמש ומטופל נשמרים בצד השרת ולא נשענים על הוראה טקסטואלית למודל.
אוטונומיה מוגבלת לפי משטח עבודה.
עוזר צוות, WhatsApp למטופלים וסוכן תיעוד לא צריכים את אותן סמכויות. לכל Execution Profile יש יכולות שונות.
כישלון צריך להיות גלוי.
אם כלי נכשל, מידע חסר או ההקשר עמום, המערכת צריכה להציג את המצב ולא לאפשר למודל לאלתר הצלחה.
- זה לא אומר שכל תשובת AI נכונה קלינית.
- זה לא אומר שלכל התקנה יש אותן דרישות Hosting ואינטגרציה.
- זה לא מחליף מדיניות גישה, אחריות צוות או עבודת Compliance מקומית.
- זה לא הופך אוטומציה מול מטופלים לסוכן רפואי בלתי-מוגבל.
“שכבת AI” גנרית מעל קליניקה קלה לדמו וקשה לאמון. Menaela בנויה על ההנחה ההפוכה: המודל צריך להיות חזק בהבנת כוונה, והאפליקציה צריכה להיות משעממת ודטרמיניסטית לגבי מי יכול לעשות מה לאיזו רשומה.
העמוד הזה עוסק בארכיטקטורה, גישה וגבולות שליטה. לדוגמאות של Hallucination, סלוטים ישנים, שאלות רפואיות, עמימות וכשלי כלים ראו בטיחות AI ←
רוצים לרדת לפרטים הטכניים?
אפשר לעבור יחד על בידוד נתונים, הפעלת כלים, הרשאות, תיעוד רפואי ו-Audit.
לדבר איתנו