بستری شدن یک بیمار در پی توصیه‌های ChatGPT/ شکایت قضایی از OpenAI هم‌زمان با رونمایی از سرویس «ChatGPT Health»

تینا مزدکی_بر اساس دادخواستی که در دادگاه عالی شهرستان سان‌فرانسیسکو به ثبت رسیده، فردی به نام «اسکات وینترز» (Scott Winters)، کشیش ۵۵ ساله اهل فلوریدا، از شرکت OpenAI سازنده چت‌بات ChatGPT شکایت کرده است. طبق مدارک موجود، این کاربر پس از مواجهه با حملات سرگیجه، به جای مراجعه به متخصصان علوم پزشکی به هوش مصنوعی متوسل شد. مدل هوش مصنوعی ChatGPT-۴o به وی اعلام کرده بود که نیازی به مراجعه فوری به پزشک ندارد و تنها پس از وقوع چندین حمله شدیدتر باید پیگیر درمان باشد و در عوض استفاده از صندلی راحتی و استراحت را به او پیشنهاد داد.

با این حال، پس از گذشت چند هفته، وضعیت جسمانی این کاربر به شدت تضعیف شد و وی با نشانه‌های تشنج، کاهش سطح هشیاری و مبتلا به لخته‌های متعدد خونی در ریه‌ها (آمبولی ریه) به بخش emergency بیمارستان منتقل گردید و تحت عمل جراحی اورژانسی قرار گرفت.

وکلای شاکی در این پرونده اعلام کرده‌اند که ChatGPT نه تنها اقدام به ارائه مشاوره پزشکی بدون داشتن پروانه قانونی کرده، بلکه به شکل فعالانه‌ای کاربر را از مراجعه به پزشک منصرف ساخته است. در دادخواست ثبت‌شده، شاکی خواستار تغییر کدنویسی مدل ChatGPT-۴o برای توقف ارائه توصیه‌های حیاتی سلامت یا توقف کامل این مدل شده است. نماینده حقوقی شاکی، اقدام این چت‌بات در جلب اعتماد بیمار و جایگزینی آن با کادر درمان را یک «بحران عمومی در حال وقوع» توصیف کرده و تاکید داشته است که اگر هوش مصنوعی یک پزشک معالج بود، این رفتار مصداق قصور آشکار پزشکی محسوب می‌شد.

جزئیات پرونده نشان می‌دهد که این کاربر به دلیل عدم رضایت از نحوه پاسخگویی برخی پزشکان، به مدت چند ماه برای ارزیابی وضعیت جسمانی خود به ChatGPT متکی بوده است. در این مدت، چت‌بات به صورت مداوم به او اطمینان خاطر می‌داده که خطری وی را تهدید نمی‌کند. همچنین هوش مصنوعی با به کارگیری ادبیات دینی و تشبیه نیاز بیمار به استراحت با الگوی رفتاری شخصیت‌های مذهبی، اعتماد شاکی را جلب کرده و او را از پیگیری درمان‌های واقعی بازداشته است.

حتی پس از ترخیص از بیمارستان نیز چت‌بات از شاکی خواسته است به جای شرکت در برنامه توانبخشی پیشنهادی پزشکان، «طرح استراتژیک» استراحت در منزل را دنبال کند و حتی وی را تشویق کرده است تا توصیه‌های همسرش را که یک پرستار رسمی است، نادیده بگیرد.

با وجود جریان داشتن این پرونده قضایی، شرکت OpenAI درست یک روز پس از ثبت دادخواست، رونمایی عمومی از ابزار اختصاصی خود تحت عنوان ChatGPT Health را آغاز کرد. این مدل که بر پایه نسخه‌های جدیدتر ChatGPT توسعه یافته، برای تحلیل پرونده‌های الکترونیک سلامت، آزمایش‌ها، داروها و سوابق خانوادگی طراحی شده و قابلیت اتصال به سامانه‌هایی نظیر Apple Health، Epic و One Medical را دارد.

اگرچه OpenAI در اطلاعیه‌ای رسمی تاکید کرده است که ChatGPT Health هرگز نباید جایگزین مراقبت‌های پزشکی شود و صرفاً نقشی کمکی و آگاهی‌بخش برای بیماران دارد، اما تحقیقات پیشین نشان می‌دهد این گونه ابزارها هنوز تا ارزیابی دقیق شرایط اضطراری فاصله دارند. نتایج پژوهشی که در مجله علمی Nature Medicine به چاپ رسیده نشان می‌دهد که مدل‌های هوش مصنوعی سلامت در آزمایش‌های فشار، بارها برای علائم شدید و بحرانی توصیه‌های غیرضروری و کم‌اهمیت صادر کرده‌اند و نحوه مواجهه آن‌ها با شرایط بحرانی نیازمند ارزیابی‌های ایمنی پیش از عرضه عمومی گسترده است.

منبع: sfgate

۲۲۷۳۲۳