وسط مخاوف من “الهلوسة”.. الذكاء الاصطناعي يقتحم مجال “الرعاية الصحية”

ونقلت الصحيفة عن عاملين حاليين وسابقين بالشركة أن التقنية ترتكب أخطاء متعددة أثناء إنتاج التقارير، مثل عدم استخدام المصطلحات الطبية الصحيحة وإضافة الأدوية التي لا يتناولها المريض، وفق للعاملين الحاليين والسابقين.

ولإصلاح هذه الأخطاء، تعتمد شركة “DeepScribe” الناشئة للتكنولوجيا الصحية على 200 عنصر بشري للاستماع إلى المحادثات الطبية ومراجعة السجلات، على حد قول مؤسسي الشركة.

وقدمت DeepScribe ادعاءات حول قوة الذكاء الاصطناعي الخاص بها، لكن العمل الحاسم الذي يقوم به العنصر البشري يظهر أن التكنولوجيا لا تزال غير قادرة على القيام ببعض الأعمال الأساسية في الطب دون مساعدة بشرية كبيرة، حسب “وول ستريت جورنال”.

كيف تعمل الشركة؟

تعمل الشركة على “حفظ سجلات الرعاية الصحية”، حيث يقوم الأطباء بإدخال ملاحظات حول محادثاتهم مع للمرضى، حتى يمكن الاطلاع عليها لاحقا للحصول على التاريخ الطبي لكل مريض.

لكن كتابة تلك التقارير يستغرق وقتا طويلا، ولتوفير الوقت، يقوم العديد من الأطباء ببساطة بنسخ ولصق الملاحظات التي أدخلوها لزيارة المريض السابقة وتعديلها حسب الحاجة فقط.

ويقوم بعض الأطباء بإملاء تقارير المرضى باستخدام برنامج التعرف على الكلام أو يرافقهم أحد العاملين في زيارات المريض وتدوين الملاحظات.

وقدمت DeepScribe وعودا جريئة حول قوة تقنيتها في “أتمتة حفظ السجلات”، حيث يأخذ الذكاء الاصطناعي الخاص نصوصا حرفية لكل محادثة، والتي يمكن أن تصل إلى آلاف الكلمات، ويحولها إلى تقارير موحدة يمكن دمجها في السجل الطبي الإلكتروني للمريض.

وباستخدام الذكاء الاصطناعي، يسجل الأطباء زيارة كل مريض باستخدام تطبيق الهاتف الذكي الذي تصنعه الشركة، ثم تحميل التسجيل إلى قاعدة بياناتها.

ثم يبدأ الذكاء الاصطناعي الخاص بالشركة في تلخيص النص لوضعه في السجل الطبي للمريض.

ويحلل الذكاء الاصطناعي النص ويسلط الضوء على المعلومات ذات الصلة، مثل التاريخ الطبي للمريض والأعراض الحالية، بالإضافة إلى خطة متابعة الطبيب.

وعلى جانب آخر يقوم العاملون البشريون بالشركة بمراجعة التسجيلات الصوتية ومقارنتها بالنصوص والجمل التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

“هلوسة” الذكاء الاصطناعي

قال عمال حاليون وسابقون بالشركة إن المشاكل تبدأ مع النصوص، والتي غالبا ما تحتوي على “جمل مفككة وغير منطقية”.

وحسب ما نقلته “وول ستريت جورنال” عن بعض العاملين بالشركة فإن كل بعض النصوص والملخصات التي تم إنشاؤها بواسطة الذكاء الاصطناعي قد أخطأت في تهجئة أسماء الأدوية.

وكشف بعض العاملين بالشركة أن البرنامج يقترح أحيانا “إجراء تغييرات على الدواء الذي تم تهجئته بشكل صحيح في النص، أو يضيف بعض العلاجات الإضافية”.

من جهة أخرى، قال ماثيو كو وأكيليش بابو، وهما مؤسسا شركة “DeepScribe” إن الأخطاء مثل إضافة أدوية للمرضى “شائعة” في العديد من خوارزميات الذكاء الاصطناعي، والتي غالبا ما تعاني “الهلوسة” حيث تقدم معلومات خاطئة على أنها صحيحة.

وأوضحا أن قيام البشر بمراجعة عمل الذكاء الاصطناعي وتحديد أخطائه يساعد في تدريب الخوارزمية وتحسين دقتها.

وقال أحد العمال إن جودة النصوص والتقارير تحسنت خلال الأشهر العديدة الماضية بعد أن بدأت الشركة في استخدام “نسخة جديدة” من برنامج الذكاء الاصطناعي الخاص بها.