إن الذكاء الاصطناعي يعد بإحداث ثورة في الرعاية الصحية من خلال التنبؤ بالأمراض، وتسريع التشخيص، واختيار العلاجات الفعالة وتخفيف الأعباء الإدارية على الأطباء – ولكن فقط إذا وثق الأطباء في أنها لن تضر بمرضاهم.

إن الحكومة تكافح من أجل الإشراف على هذه التكنولوجيا المتطورة بسرعة. لكن الدكتور بريان أندرسون، الذي ألهمته خبرته في العمل لساعات طويلة كطبيب عائلي للمهاجرين من ذوي الدخل المنخفض في ماساتشوستس للعمل على التكنولوجيا لتسهيل رعاية المرضى، يقول إنه يستطيع ذلك.

تخطط تحالف أندرسون للذكاء الاصطناعي الصحي، وهو تحالف من عمالقة التكنولوجيا وأنظمة المستشفيات الكبرى، لإطلاق مختبرات ضمان الجودة لفحص أدوات الذكاء الاصطناعي في عام 2025 والتي من شأنها أن تعهد للقطاع الخاص فعليًا بفحص التكنولوجيا في غياب عمل الحكومة.
أشار مسؤولو إدارة بايدن إلى دعمهم للفكرة. أيد أكبر مسؤول في مجال التكنولوجيا الصحية في الإدارة، والذي خدم سابقًا في مجلس إدارة CHAI، المفهوم في حدث POLITICO في سبتمبر. انضم ما يقرب من ثلاثة آلاف شريك صناعي إلى الجهود، بما في ذلك Mayo Clinic وDuke Health وMicrosoft وAmazon وGoogle. يحاول أندرسون، الذي أصبح مستشارًا للجهات التنظيمية الفيدرالية في مجال التكنولوجيا الصحية بعد عمله كطبيب عائلي، الآن إقناع الرئيس المنتخب دونالد ترامب بأن صناعة الذكاء الاصطناعي في مجال الصحة يجب أن تشرف على نفسها.

يصف أندرسون الفجوات التنظيمية الحالية بأنها “فرصة رائعة للصناعة لقيادة جهد من القاعدة إلى القمة”.

إذا أيد فريق ترامب جهود أندرسون، فقد يؤدي ذلك إلى إرساء مسار تنظيم الذكاء الاصطناعي في مجال الرعاية الصحية في المستقبل، والتنازل عن الدور الرئيسي للقطاع الخاص. ويخشى المنتقدون أن هذا قد يمنح الشركات الكبرى وأنظمة الرعاية الصحية ميزة على الشركات الناشئة. ويخشى بعض الأطباء والمدافعين عن المرضى أن مختبرات أندرسون لن تضمن السلامة فعليًا.

يقول المنتقدون إن عملية التصديق التي يتصورها أندرسون من غير المرجح أن تلتقط كيف يمكن للذكاء الاصطناعي أن يوجه الأطباء بشكل خاطئ وفي الوقت نفسه يقود المستشفيات والأطباء إلى تبني أدوات أكثر سرعة تعرض سلامة المرضى للخطر. وهم قلقون من أن CHAI ستضع مصالح الصناعة قبل المرضى. إنهم يرغبون في رؤية الحكومة تفعل المزيد.
ولكن الدكتور روبرت كاليف، الذي يتولى تنظيم برامج الصحة في إدارة الغذاء والدواء، يقول إن وكالته لا تستطيع مراقبة كل أدوات الذكاء الاصطناعي المتقدمة دون مضاعفة عدد موظفيها، وهو أمر صعب في الكونجرس. وتترك وكالته العديد من أدوات الذكاء الاصطناعي الجديدة، مثل برامج الدردشة الآلية، دون تنظيم على الإطلاق.

يقدم أندرسون إجابة ويحظى باستقبال ترحيبي. في غضون عام من إطلاق CHAI، نجح في تجنيد مئات من أعضاء الصناعة وإقناع نائب كاليفورنيا تروي تازباز ومنسق الرئيس جو بايدن للتكنولوجيا الصحية، ميكي تريباثي، بالعمل كأعضاء غير مصوتين في مجلس إدارة CHAI.

صمم أندرسون مبادرات CHAI لاستكمال القواعد الفيدرالية التي استكملها مكتب تريباثي في ​​وزارة الصحة والخدمات الإنسانية في عام 2023. تتطلب هذه القواعد من مطوري الذكاء الاصطناعي تقديم المزيد من المعلومات حول كيفية عمل أدواتهم. تقدم CHAI “بطاقات نموذجية”، وهي نوع من ملصقات التغذية، والتي ستساعد الشركات على تلبية هذا المتطلب.

لكن إقناع ترامب ليس بالأمر المؤكد وبدون موافقته فإن الخطة بأكملها معرضة للخطر.

تعهد ترامب بإلغاء الأمر التنفيذي لبايدن لعام 2023 بشأن الذكاء الاصطناعي، والذي كلف الوكالات بتطوير تدابير السلامة. لقد سخر برنامج حملة ترامب من “أفكار اليسار الراديكالي حول تطوير هذه التكنولوجيا” بينما وعد “بتطوير الذكاء الاصطناعي المتجذر في حرية التعبير والازدهار البشري”.

من ناحية أخرى، يأخذ ترامب بنصيحة رائد الذكاء الاصطناعي الملياردير إيلون ماسك، الذي يرى إمكانات التكنولوجيا في إحداث الضرر ودعم مشروع قانون في كاليفورنيا لتنظيمها في عام 2024. إذا كان ماسك يتمتع بنفوذ، فقد يفضل ترامب إشرافًا حكوميًا أكثر صرامة.

روج أندرسون لخطته على تلة الكابيتول في نوفمبر أمام حشد من الحزبين. كان هناك خبراء التكنولوجيا في فلك ترامب، بما في ذلك كيف كولمان من معهد باراجون الصحي، وهو مركز أبحاث في واشنطن له علاقات عميقة بالرئيس المنتخب، وإريك هارجان، الذي كان نائب وزير الصحة والخدمات الإنسانية خلال فترة ولاية ترامب الأولى. وكان هناك أيضًا ديمقراطيون رئيسيون، بما في ذلك زعيم الأغلبية في مجلس الشيوخ المنتهية ولايته تشاك شومر، الذي عقد فريق عمل ثنائي الحزب للذكاء الاصطناعي في عام 2023، وتريباثي، الذي يشغل الآن منصب كبير مسؤولي الذكاء الاصطناعي في وزارة الصحة والخدمات الإنسانية.

أصدر كولمان تقريرين عن سعي الذكاء الاصطناعي للتأثير على تفكير ترامب. ويقول إن إدارة الغذاء والدواء يجب أن تلعب الدور الرئيسي ويجب أن تحصل على الموظفين المدربين تدريباً عالياً الذين تقول كاليفورنيا إنها بحاجة إليهم. في الوقت نفسه، يحذر كولمان من التنظيم الحكومي غير المدروس الذي قد يعيق نمو التكنولوجيا واستعانة بمطوري الذكاء الاصطناعي المهتمين بمصالحهم الذاتية في القطاع الخاص للإشراف على الذكاء الاصطناعي.

كتب كولمان أن السماح للبيروقراطيين بالتأثر بسهولة بـ “الادعاءات العاطفية المثيرة” حول الذكاء الاصطناعي يمكن أن يقلل من إمكانية استخدام التكنولوجيا لتقليل تكاليف الرعاية الصحية. في الوقت نفسه، قد يؤدي تسليم الإشراف إلى القطاع الخاص إلى خلق تضارب في المصالح لأن “العديد من المؤسسات المؤهلة لتقييم الذكاء الاصطناعي الطبي هي نفسها مطورو الذكاء الاصطناعي”.

يشارك الجمهوريون البارزون في مجلس النواب هذا القلق.

كتب النائب جاي أوبرنولتي (جمهوري من كاليفورنيا)، رئيس فريق عمل ثنائي الحزب في مجلس النواب ينظر في دور الكونجرس في تعزيز وتنظيم الذكاء الاصطناعي، إلى كبار المسؤولين في بايدن ثلاث مرات محذراً من أن مختبرات ضمان أندرسون قد تضر بالشركات الناشئة.

وقد شارك في التوقيع على الخطابات النائب بريت جوثري (جمهوري من كنتاكي)، الذي سيتولى رئاسة اللجنة المعنية بسياسة الصحة في مجلس النواب.

كتب أوبرنولتي وجوثري: “إن الاستيلاء على التنظيمات لن يؤدي إلا إلى تعزيز التوحيد وزيادة تكلفة الرعاية الصحية للمرضى في جميع أنحاء البلاد”.

ولم يثنِ أندرسون نفسه عن عزمه، فقد التقى في نوفمبر/تشرين الثاني بأوبرنولتي وغيره من الجمهوريين الرئيسيين، مثل السيناتور مايك راوندز (جمهوري من ساوث داكوتا)، الذي خدم في فريق عمل شومر للذكاء الاصطناعي، ومايك كرابو (جمهوري من أيداهو)، الذي من المقرر أن يقود لجنة في مجلس الشيوخ تتمتع بسلطات واسعة النطاق بشأن الرعاية الصحية في عام 2025.

وتخطط CHAI لإنهاء اعتماد مختبراتها الأولى للضمان في أوائل عام 2025.

وقال أندرسون: “إن الذكاء الاصطناعي يتحرك بسرعة لا تصدق. نحن بحاجة إلى تطوير هذه الأطر بوتيرة هذا النوع من الابتكار”.

وُلِدت منظمة CHAI

أصبح أندرسون شخصية بارزة في أروقة وزارة الصحة والخدمات الإنسانية من خلال عمله في معهد ماساتشوستس للتكنولوجيا، الذي يدير مراكز البحوث والتطوير الفيدرالية. وعلى مدى عقود من الزمان، قدمت المنظمة غير الربحية، التي تتخذ من ضواحي واشنطن مقراً لها، المشورة للوكالات الحكومية.

قال أندرسون، في إشارة إلى الميثاق الأصلي للمجموعة باعتبارها مؤسسة بحثية مدعومة من البنتاغون: “نحن ملزمون بموجب القانون بعدم التورط تجاريًا”.

نظرًا لوضعها الخاص، غالبًا ما يكون موظفو MITRE في الغرفة في المراحل الأولى من تطوير السياسات، وغالبًا ما تتعاون المنظمة غير الربحية مع كيانات القطاع الخاص للمساعدة في حل المشاكل العامة. بصفته كبير الأطباء الرقميين السابقين للمنظمة، نظم أندرسون تعاونات مع القطاع الخاص أثناء الوباء.

في عام 2020، قاد تحالف الرعاية الصحية لكوفيد-19، وهي مجموعة من شركات التكنولوجيا والأدوية وأنظمة الرعاية الصحية التي عملت على تبسيط الجهود لجمع وتوزيع البلازما المتبرع بها لعلاج المرضى الذين يعانون من حالات شديدة من الفيروس. كما قام ببناء مبادرة اعتماد اللقاح، التي طورت أداة رقمية حتى يتمكن الأشخاص من إثبات تطعيمهم. تضمنت كلتا المجموعتين شركات كبيرة مثل مايكروسوفت وأمازون ومراكز طبية أكاديمية كبرى مثل مايو كلينيك ومستشفى بوسطن للأطفال.

في الأيام الأخيرة من الوباء عندما كانت قوة المعالجة اللازمة لتغذية الذكاء الاصطناعي تنمو بشكل كبير، بدأ يفكر في كيفية تحويل الذكاء الاصطناعي لمراقبة الأمراض وتطوير الأدوية.

وقال: “يمكن استخدام هذا لإنقاذ أرواح حقيقية. كان هذا هو الدافع”.

تواصل أندرسون مع معلمه الدكتور جون هالامكا، رئيس مركز ابتكار التكنولوجيا في مايو كلينيك، لجمع فريق من الأكاديميين والشركات الرقمية لوضع إرشادات الذكاء الاصطناعي في الطب. كما دعا المسؤولين الحكوميين، بما في ذلك تريباثي من وزارة الصحة والخدمات الإنسانية، للانضمام إلى اجتماعاتهم. وُلد تحالف الذكاء الاصطناعي الصحي.

عندما أصدر البيت الأبيض نموذجه لإعلان حقوق الذكاء الاصطناعي في خريف عام 2022، تواصلت أنظمة الرعاية الصحية وشركات التكنولوجيا مع CHAI، وقال أندرسون: “كانت هناك صياغة واضحة حول أشياء مثل العدالة والتقييمات المستقلة للنماذج – تم تحديد هذه الأشياء بوضوح”.
بحلول نهاية عام 2022، نشرت CHAI مخططًا للذكاء الاصطناعي الجدير بالثقة، والذي تضمن ما يسمى بالبطاقات النموذجية – وهي في الأساس ملصقات غذائية لمنتجات الذكاء الاصطناعي – ومختبرات ضمان لفحص أدوات الذكاء الاصطناعي.

وبعد مرور عام، أصبح التحالف يضم 1500 منظمة عضو، الأمر الذي جعل من الصعب على أندرسون إدارة أعماله أثناء أداء واجباته الأخرى في MITRE. ورغم أنه كان يأمل أن تتمكن MITRE من تشغيل CHAI، إلا أن المنظمة رفضت ذلك، مشيرة إلى تضارب محتمل مع تفويضها بتمثيل أفضل مصالح الحكومة.

في مارس/آذار، ترك أندرسون MITRE ليصبح الرئيس التنفيذي لـ CHAI.

تتراوح رسوم العضوية السنوية للمنظمة غير الربحية من 5000 دولار للشركات الصغيرة إلى 250 ألف دولار للشركات الأكبر. وقال أندرسون إن CHAI لا تمارس الضغط أو تحدد المعايير، لكن صناع السياسات أبدوا اهتمامًا بعملها.

وقال: “أحد مخاوفي، أحد مخاوف العديد من الأشخاص داخل CHAI، هو أن التطوير والتصويت والموافقة – العملية المعيارية لإنشاء معيار يمكن أن تستغرق وقتًا طويلاً”. “إذا اعتمدنا على هذه العملية وحدها لتطوير بعض هذه المبادئ التوجيهية أو الحواجز الواقية داخل مجتمع الابتكار، فلن يتمكنوا من مواكبة وتيرة الابتكار والذكاء الاصطناعي”.

في عام 2024، نشرت CHAI بطاقة النموذج الخاصة بها كوسيلة لمطوري التكنولوجيا لإبلاغ العملاء بنقاط القوة والضعف في خوارزمياتهم. تهدف البطاقات إلى استكمال قاعدة الشفافية الجديدة لوزارة الصحة والخدمات الإنسانية المقرر أن تدخل حيز التنفيذ في نهاية عام 2024 والتي تتطلب من شركات السجلات الصحية الإلكترونية المعتمدة من وزارة الصحة والخدمات الإنسانية الكشف عن 31 سمة من سمات أدوات دعم القرار الخاصة بها للمشترين.

إن الوصول إلى بطاقة نموذج CHAI مجاني للأعضاء الجدد ويمكن ترخيصه من قبل الآخرين. قال أندرسون إن CHAI توفر نسخة مجانية مفتوحة المصدر على منصة مطوري التكنولوجيا GitHub.

كما تقوم المنظمة بإصدار شهادات لسبعة مختبرات ضمان لتقييم الخوارزميات. في يونيو، قال أندرسون إن حوالي 30 منظمة أعربت عن اهتمامها ببدء المختبرات.

يريد أندرسون إنشاء سجل وطني حيث ستعيش جميع معلومات بطاقة النموذج. وقد سعى للحصول على تمويل حكومي من مركز الابتكار الفيدرالي الذي نصحه ذات يوم، وكالة مشاريع الأبحاث المتقدمة للصحة، لتطوير أدوات تقييم الذكاء الاصطناعي.

نفوذ واشنطن

لقد اجتذب نفوذ CHAI المتزايد الأعضاء الذين يقدرون نفوذ المنظمة المتصور لدى الجهات التنظيمية، وهو الأمر الذي ساعد تورط MITRE المبكر في ترسيخه.

لا يقتصر الأمر على أن الجهات التنظيمية الفيدرالية أعضاء في مجموعات عمل CHAI، بل إن مسؤولين مثل تريباثي وميلاني فونتيس راينر، رئيسة مكتب الحقوق المدنية التابع لوزارة الصحة والخدمات الإنسانية، يظهرون بانتظام في فعاليات CHAI كضيوف مميزين. أيد المنظمون، بما في ذلك كاليفورنيا ونائبة وزير الصحة والخدمات الإنسانية أندريا بالم، مختبرات الضمان كمكملات للإشراف الفيدرالي.

في دعم مفهوم مختبرات الضمان في حدث بوليتيكو في سبتمبر، امتنعت تريباثي عن تأييد CHAI وقالت إن وزارة الصحة والخدمات الإنسانية تراقب العديد من مبادرات الذكاء الاصطناعي.

استقال كل من تريباثي وتازباز من أدوارهما كضابطين اتصال فيدراليين غير مصوتين في مجلس إدارة CHAI في عام 2024 لتجنب “التصادمات” المحتملة بين مصالح الأعضاء وصنع السياسات في وزارة الصحة والخدمات الإنسانية. ومع ذلك، يظهر كلاهما بشكل بارز في صورة على موقع CHAI على الويب بعنوان “غرضنا”.

وتستمر الهيئات التنظيمية في الإشادة بـ CHAI. في نوفمبر/تشرين الثاني، أشاد نائب تريباثي، جيف سميث، ببطاقة CHAI النموذجية للامتثال لقاعدة الشفافية الجديدة.

لكن إدارة ترامب القادمة مع مسؤوليها الجدد في الوكالة قد تشكل مشكلة لأندرسون.

يشعر بعض المشرعين الجمهوريين بالقلق بشأن علاقات الهيئات التنظيمية في إدارة بايدن مع CHAI. في يونيو/حزيران، كتب أربعة مشرعين في مجلس النواب، أوبرنولتي، وجوثري، وماريانيت ميلر ميكس (جمهوري من ولاية أيوا) ودان كرينشو (جمهوري من ولاية تكساس)، إلى جيف شورين، رئيس مركز إدارة الغذاء والدواء للأجهزة والصحة الإشعاعية، لمعارضة ذلك.

“بينما نحن من المؤيدين المتحمسين لاستخدام خبرة الطرف الثالث للمراجعة التنظيمية، فإن CHAI تضم شركات تقنية قديمة مثل Microsoft وGoogle بالإضافة إلى أنظمة رعاية صحية كبيرة، والتي لديها جميعها أعمال حاضنة للذكاء الاصطناعي. إن إدراجهم يمثل تضاربًا واضحًا في المصالح”، كما كتبوا.

أرسلت المجموعة خطابًا آخر إلى تريباثي في ​​نوفمبر، تطلب توضيحًا بشأن كيفية منع HHS لمختبرات الضمان التي يديرها مطورو التكنولوجيا من التحكم في الوصول إلى السوق.

قال أندرسون إنه يتخذ خطوات لتخفيف مخاوفهم من خلال وضع قواعد تشغيل للمختبرات.

“قد يكون إطار الشهادة النهائي ليس مجرد إفصاح [عن تضارب المصالح]، ولكن لا يمكنك إصدار شهادة أو لا يمكنك تقييم نموذج ببطاقة تقرير CHAI حيث لديك فرصة تجارية للاستفادة”، كما قال.

مختبرات الضمان

تخفي العضوية الواسعة في CHAI نقاشًا داخليًا حول كيفية عمل المختبرات وما إذا كانت ستوفر الطمأنينة التي تحتاجها أنظمة الصحة لتبني أدوات الذكاء الاصطناعي.

في اجتماع CHAI في أكتوبر في لاس فيجاس، تساءل الأعضاء عما إذا كانت شهادة مختبر الضمان ستزيد من تكلفة منتجات الذكاء الاصطناعي وتؤثر سلبًا على ميزانيات المستشفيات.

تساءل البعض عما إذا كانت الشهادة لمرة واحدة لمختبرات الضمان هي الطريقة الأكثر فعالية لتقييم احتمالات إلحاق الضرر بالمريض، نظرًا للإعدادات التكنولوجية المختلفة وسير العمل بين المؤسسات الصحية وميل الذكاء الاصطناعي إلى التدهور.
قال دوج روبينز، نائب رئيس الهندسة والنماذج الأولية في مختبرات MITRE: “إن وجهة نظرنا بشأن ضمان الذكاء الاصطناعي هي أنه يجب أن يكون مدفوعًا بالسياق، بمعنى: أنا أضمن الذكاء الاصطناعي لغرض معين، يستخدمه مجموعة من الأشخاص”.

تطلق MITRE وكلية الطب UMass Chan مختبر ضمان، منفصل عن CHAI، والذي سيركز على ضمان قدرة الذكاء الاصطناعي على العمل في بيئة مستشفى محددة. وفي الوقت نفسه، تقوم CHAI بإصدار شهادات لمختبرات الضمان لمنصة Mayo Clinic، ومركز UMass Memorial الطبي، وخمس شركات ناشئة. ستقوم الشركات الناشئة بتقييم والتحقق من الوظائف الأساسية للخوارزميات.

يعتقد نيجام شاه، كبير علماء البيانات في Stanford Health Care وعضو مجلس إدارة CHAI الذي كتب ورقة مؤثرة حول مختبرات الضمان، أن المختبرات يجب أن تتطور إلى أدوات يمكن نشرها بسرعة لفحص الذكاء الاصطناعي داخل أنظمة الرعاية الصحية.

قال: “في البداية، إنه مكان. بعد فترة، يبدأ المختبر في إصدار أجزاء مما يفعلونه كبرنامج”.

إن هذا النهج يجب أن يروق لكولمان من معهد باراجون الصحي، والذي يزعم أن العمل مع مختبرات الضمان يجب أن يكون طوعيًا ويتفق على أن استخدام البرمجيات هو الطريق إلى الأمام.

وقال: “هذه في الواقع فرصة للذكاء الاصطناعي لمراقبة نفسه”.

حتى بدون إجماع حول كيفية التحقق من صحة الذكاء الاصطناعي، يواصل أندرسون المضي قدمًا في خطته بينما يناشد واشنطن. في ديسمبر/كانون الأول، تحدث في مؤتمر مساعد وزير الصحة والخدمات الإنسانية السنوي لسياسة التكنولوجيا.

لا يزال من غير المؤكد من سيستفيد في نهاية المطاف من نموذج مختبر الضمان، وتقول مصادر قريبة من CHAI وMicrosoft وAmazon وGoogle إن الشركات ليست متأكدة من نجاح مفهوم بطاقة النموذج. ومع ذلك، في حين أن بعض أعضاء التكنولوجيا الكبار في CHAI ليسوا من بين الأوائل الذين أطلقوا مختبرات الضمان، فإن البعض يطورون منصات متنافسة. في عام 2024، أعلنت Duke Health وAvanade، وهي مشروع مشترك بين Microsoft وAccenture، عن منصة لمساعدة أنظمة الرعاية الصحية على حساب كل الذكاء الاصطناعي الذي تستخدمه. في النهاية، من المفترض أن تقوم بتقييم ومراقبة أداء الذكاء الاصطناعي.

ويعتقد أندرسون أن السوق سوف يحدد أفضل طريقة لفحص الذكاء الاصطناعي، من خلال مختبرات الضمان أو غير ذلك: “إذا كانت القيمة التي نحاول تحقيقها، في هذه الحالة، هي خلق الثقة والشفافية لأدوات الذكاء الاصطناعي الآمنة والفعالة، فأنا موافق على وجود رابحين وخاسرين”.

المصدر : اوكسجين كندا نيوز
المحرر : رامى بطرس