تهدید هوش مصنوعی در صنعت اپتیک

این روزها بسیاری از افراد و متخصصین از اثرات، فرصت‌ها و تهدید هوش مصنوعی بر صنایع مختلف سخن می‌گویند. برخی افراد مشاغل خود را در خطر حذف شدن می‌بینند. بعضی از این تهدیدها صرفا تصورات ناشی از ترس و قابل پیش‌بینی نبودن جوانب رشد این فناوری است. اما قطعا متاثر شدن اجتناب ناپذیر است و صنعت اپتیک به عنوان یکی از صنایع بزرگ جهانی مستثنی نیست. در این مقاله به بررسی جنبه تهدید آمیز و خطرات احتمالی هوش مصنوعی بر صنعت اپتیک می‌پردازیم.

آیا AI می‌تواند در چشم‎پزشکی، اپتومتری و عینک‌سازی، در کنار فرصت‌های تازه، خطرات و تهدیداتی به همراه داشته باشد؟ این خطرات تا چه حد جدی هستند؟ چه راهکارهایی برای مقابله با این تهدیدات وجود دارد؟ با ما همراه باشید.

تهدید هوش مصنوعی در چشم پزشکی

در هوش مصنوعی و بینایی خواندیم که هوش مصنوعی چه فرصت‌هایی در اختیار چشم‌پزشکی و اپتومتری قرار داده است. چشم‌پزشکی با ساختارهای آناتومیکی پیچیده و طیف گسترده‌ای از روش‌های معاینه غیر تهاجمی، حجم زیادی از داده را تولید می‌کند. با توجه به توانایی پردازش فوق‌العاده داده توسط هوش مصنوعی، چشم‌پزشکی و اپتومتری، بستر محکمی برای استفاده از AI است. ادغام داده‌های تصویری، عددی و متنی، هوش مصنوعی را قادر کرده تا فرصت‌های بی‌سابقه‌ای را در اختیار غربالگری، تشخیص و درمان بیماری‌ها در چشم‌پزشکی بگذارد. پتانسیل‌های هوش مصنوعی فرصت‌های بی‌نظیری برای ارائه خدمات مراقب سلامت موثرتر، پایدارتر و در دسترس‌تر فراهم می‌کند. در هوش مصنوعی و بینایی از آسان شدن امکان تله‌مدیسن تا دستیاران تخصصیAI گفتیم.

اما با توجه به پتانسیل رشد غیرقابل پیش‌بینی این فناوری نوظهور، قطعا داشتن دیدی درباره تهدید و خطرات آن ضروری است. نادیده گرفتن این پتانسیل تهدید در علوم وابسته به پزشکی می‌تواند به قیمت به خطر افتادن جدی سلامت انسان‌ها یا نقض حریم خصوصی آن‌‌ها تمام شود.

اجازه بدهید به محتمل‌ترین خطرات و تهدیدهای هوش مصنوعی در حوزه چشم‌پزشکی بپردازیم:

1.   خطاهای تشخیصی هوش مصنوعی و اعتماد بیش از حد: استفاده از AI در چشم‌پزشکی برای غربالگری رتینوپاتی دیابتی و تروماتیک، تحلیل OCT، تشخیص گلوکوم و … مورد استفاده قرار گرفته است. اما خطاهایی مانند تولید نتایج درست یا عدم توانایی در تشخیص موارد نادر می‌تواند به برنامه درمانی غلط منجر شود. هنوز این مدل‌ها بدون نظارت مستقیم نیروی انسانی قابل استفاده نیستند. دستورالعمل‌ها و چهارچوب‌های نظارتی تاکید می‌کنند که این ابزارها باید با کنترل کاربر انسانی متخصص مورد استفاده قرار بگیرند.

2.   مسائل اخلاقی: مسئولیت حرفه‌ای، مالکیت داده و محرمانگی اطلاعات جزء مسائل بسیار با اهمیت در حوزه اخلاق حرفه‌ای هستند. با وجود این که چشم‌پزشکی یکی از اولین پذیرندگان هوش مصنوعی است اما بحث‌های ملاحظات اخلاقی هنوز محدود است. نگرانی‌های اخلاقی در حوزه چشم‌پزشکی و اپتومتری بر حفظ حریم خصوصی بیماران، شفافیت اطلاع رسانی به بیمار و تعیین مسئولیت حرفه‌ای متمرکز است. مسئولیت خطای پزشکی در هنگام استفاده از هوش مصنوعی با کیست؟

بسیاری از مدل‌های هوش مصنوعی فعلی برای تولید نتایج به داده‌های تصویری زیادی نیاز دارند. این اطلاعات حاوی تصاویری از چشم‌ها، عنبیه و شبکیه افراد هستند. امکان استفاده از این اطلاعات برای اهداف تجاری، تبلیغاتی یا… می‌تواند اعتماد بیماران به جوامع پزشکی را تضعیف کند. حفظ حریم خصوصی بیماران و کسب رضایت آگاهانه از آنان الزاماتی است که فعلا نادیده گرفته شده است. لذا تقویت تحقیق و بحث در مورد مسائل اخلاقی هوش مصنوعی چشمی و ایجاد دستورالعمل‌ها و چهارچوب‌های نظارتی ضروری است.

3.   آسیب پذیری AI در برابر حملات فریب الگوریتم و امکان جعل اطلاعات: همان‌طور که امکان جعل اطلاعات هوش مصنوعی وجود دارد، ممکن است این جعل حتی در مقادیر بسیار میلی‌متری در یک تصویر پزشکی رخ دهد. تغییرات بسیار ظریف که برای چشم انسان غیرقابل پیش‌بینی هستند می‌توانند مدل هوش مصنوعی را دچار تشخیص اشتباه کنند. این آسیب پذیری در محیط‌های بالینی می‌تواند پیامدهای درمانی و امنیتی جدی به همراه داشته باشد.

تهدید هوش مصنوعی در اپتومتری

برخی از تهدیدهای هوش مصنوعی در چشم‌پزشکی و اپتومتری مشترک هستند. امکان خطای هوش مصنوعی، جعل اطلاعات و مسائل اخلاقی در هر دو گروه مشترک هستند.سایر تهدید‌ها عبارتند از:

1.   تغییر در جریان کار اپتومتری و جابه‌جایی نقش‌ها: سیستم‌های غربالگری و تشخیص اتومات مبتنی بر هوش مصنوعی ممکن است بخشی(نه تمام) از کار روتین اپتومتریست‌ها را تسهیل کنند. این می‌تواند باعث تضعیف درآمد اپتومتریست‌ها در سازمان‌هایی بشود که دستمزد بر پایه حجم خدمات است. در میان اپتومتریست‌ها نیز مانند چشم‌پزشکی پذیرش هوش مصنوعی بالاست. زیرا این حرفه یک حرفه وابسته به تجهیزات و ابزار است و هوش مصنوعی نیز یک ابزار بسیار کاربردی برای بهبود و تسهیل خدمات در اپتومتری است. البته که هنوز این ابزار قابلیت جانشینی با نیروی اپتومتری متخصص را ندارد و برای تمام دستیاران تشخیصی و غربالگری AI باید کاربر آگاه به داده همراه باشد. اما نگرانی‌ها از نظر کیفیت خدمات، جابه‌جایی نقش‌ها و تغییر روتین کاری پابرجاست.

2.   مسائل حقوقی و مسئولیت حرفه‌ای: زمانی که تشخیصی با کمک هوش مصنوعی انجام گیرد و منجر به خطا شود، تعیین مسئولیت این خطا پیچیده است. آیا توسعه دهنده الگوریتم هوش مصنوعی مسئول است یا کلینیک یا اپتومتریست؟ موضوعات حول تعیین مسئولیت حرفه‌ای در استفاده از هوش مصنوعی نیازمند چهارچوب‌های قانونی و بیمه‌ای جدید است. دستورالعمل هایی مورد توافق که شفافیت در نحوه استفاده از AI را الزام آور کند.

3.   وابستگی به AI و خطر از دست رفتن مهارت‌های بالینی و تحلیلی ظریف: اگر اپتومتریست‌ها به طور مداوم در معاینات هر روزه به خروجی‌های هوش‌مصنوعی اعتماد کنند، ممکن است به مرور مهارت‌های بالینی آن‌‌ها کمرنگ شود. این موضوع در شرایطی که سیستم خطا کند یا در دسترس نباشد کیفیت مراقبت بینایی را کاهش می‌دهد. برای جلوگیری از این، باید شیوه کار به گونه‌ای باشد که برخی از معاینات بالینی و تحلیل و تفسیر نتایج همچنان به کار گرفته شود.

تهدید هوش مصنوعی در عینک سازی

قبل از پرداختن به تهدید هوش مصنوعی در اپتیک و عینکسازی اجازه بدهید چند مورد از مهم ترین کاربردهای هوش مصنوعی در عینک سازی و صنعت اپتیک را ذکر کنیم. در خلال همین موارد خطر هوش مصنوعی ناکارآمد را نیز بیان می‌کنیم:

1.   طراحی فریم: الگوریتم‌های AI می‌توانند با دریافت داده‌هایی مانند فرم صورت، ترندهای بازار عینک، متریال فریم، محدودیت‌های خطوط تولید و… طرح فریم مطابق با بازار و خط تولید پیشنهاد و طراحی کنند. همچنین می‌توانند داده‌های فروش، شبکه‌های اجتماعی و رفتار مصرف کننده را تحلیل کنند تا به بهبود طراحی‌های بعدی منجر شود.

تهدید: حذف یا کمرنگ شدن نقش طراح متخصص فریم – یکنواخت شدن طراحی‌های فریم و کم شدن تنوع و مدل‌های خاص و اصیل

2.    اسکن سه بعدی صورت و فیتینگ فریم: ابزارهای دارای هوش مصنوعی می‌توانند اندازه‌گیری‌های مربوط به فیتینگ عینک مانند PD,PH، ابعاد صورت و … را انجام دهند و فریم‌های موجود در کالکشن مجازی را بر روی اسکن سه بعدی صورت فرد قرار داده و یک پرو فریم مجازی و شبیه‌سازی شده انجام دهند.

خطر: عدم درک واقعی قرارگیری فریم روی دینامیک پوست صورت و گوش‌ها

3.   انتخاب هوشمند عدسی و فریم برای مصرف کننده: تصور کنید به ‌جای وقت بسیاری که صرف مشورت گرفتن و انتخاب فریم و عدسی می‌کنید، همه‌ی این کارها را یک دستیار هوش مصنوعی برای شما انجام دهد. فریم متناسب با سلیقه، نسخه و صورت شما(اسکن صورت شما را دارد) را از بین هزاران فریم پیشنهاد دهد. عدسی متناسب با سبک زندگی و نسخه را برایتان انتخاب کرده و پیشنهاد کند. اندازه‌گیری‌های سفارش را نیز انجام دهد.

تهدید: تضعیف تصمیم‌گیری بالینی اپتومتریست و عینک‌ساز و حذف مهارت‌های کمک‌کننده آن‌‌ها در تصمیم گیری – امکان خطا در پیشنهاد فریم و عدسی

4.   تولید و ساخت فریم عینک: AI می‌تواند با بهینه‌سازی تولیدات CNC (برش کامپیوتری) و عینک پرینت سه بعدی در فرآیند ساخت عینک نقش مهمی ایفا کند. مرحله کنترل کیفیت اتومات، کاهش ضایعات متریال، تطبیق طراحی با محدودیت‌های تولید و … برخی از مزایای آن است.

تهدید: یک خطای جزئی در الگوریتم می‌تواند منجر به تولید انبوه فریم‌های غیراستاندارد گردد.

سایر تهدیدات هوش مصنوعی در اپتیک و عینک‌سازی عبارتند از:

1.   سو استفاده از اطلاعات عینک هوشمند: تمام اطلاعاتی که توسط عینک‌های هوشمند دارای دستیار AI ثبت و ضبط می‌شوند ارزش تجاری بالا و قابلیت استفاده بدون رضایت افراد را دارند. همچنین نگرانی‌های جدی درباره ضبط بدون رضایت و استفاده از داده‌ها برای آموزش مدل‌های تبلیغاتی وجود دارد.

2.   با تضعیف نقش اپتومتریست و عینک‌ساز در پروسه مشاوره، انتخاب و ساخت عینک تصمیم‌گیری صرفا الگوریتمی و بدون درک بالینی خواهد بود و قضاوت حرفه‌ای یک فرد متخصص با تجربه نادیده گرفته می‌شود.

3.   خطای اندازه‌گیری و فیت عینک: هرگونه خطا در اندازه‌گیری‌های مرتبط با فریم و عدسی می‌تواند در عینک نهایی منجر به کاهش دید، خستگی بینایی، سردرد، طولانی شدن دوره سازگاری و … گردد.

4.   تهدید استاندارد‌های طراحی، تولید و ایمنی فریم و عدسی عینک: زمانی که تولید انبوه با الگوریتم‌های طراحی هوش مصنوعی صورت گیرد، باید به شیوه‌هایی اطمینان حاصل کرد که تمام استاندارد‌های لازم رعایت می‌شود. اگر بخش کنترل کیفی هم بر عهده هوش مصنوعی باشد چگونه می‌توان از رعایت استاندارد در کل این فرآیند مطمئن شد؟ اگر آزمایش‌های کنترل کیفیت مستقل از هوش مصنوعی در پروسه تولید عینک از ابتدا تا پایان وجود نداشته باشد، می‌تواند منجر به ورود انبوهی از عینک‌های غیر استاندارد به بازارهای بزرگ گردد. در صورت آسیب یا متضرر شدن مصرف‌کننده نهایی مسئولیت با کیست: تولیدکننده؟ تامین‌کننده؟ اپتومتریست یا عینک‌ساز ارائه دهنده عینک؟ توسعه دهنده الگوریتم؟

راه‌های کاهش ریسک تهدید هوش مصنوعی در اپتیک، چشم‌پزشکی و اپتومتری

1.   لزوم نظارت انسانی بر همه سیستم‌های بالینی استفاده کننده از AI

2.   تدوین دستورالعمل‌های امنیت داده و کسب رضایت شفاف از بیماران برای استفاده و اشتراک گذاری تصاویر پزشکی

3.   آموزش مداوم نیروی انسانی، ترکیب مهارت‌های دیجیتال با مهارت‌های بالینی سنتی

4.   شفاف‌سازی مسئولیت حرفه‌ای و قانونی بین توسعه دهندگان الگوریتم و ارائه دهندگان خدمات درمانی

جمع‌بندی

هوش مصنوعی بستر فرصت‌های بی‌سابقه‌ای را در اختیار چشم‌پزشکی قرار داده است، اما احتمال جایگزین شدن AI با نیروهای متخصص انسانی در حال حاضر و آینده نزدیک بعید به نظر می‌رسد. چشم‌  پزشکان می‌توانند از دستیاران تشخیصی و حتی دستیار جراح AI استفاده کنند اما نظارت و کنترل همچنان با متخصص انسانی است. همچنین هوش مصنوعی در اپتومتری و عینک‌سازی یک ابزار قدرتمند کمکی است، نه جایگزین نیروی متخصص و ماهر انسانی.

این فناوری برای تبدیل شدن به خدمتی ایمن و قابل اتکا در چشم پزشکی، اپتومتری و عینک‌سازی به شفافیت، آموزش و چهارچوب‌های قانونی و اخلاقی نیاز دارد. متخصصین، تولیدکنندگان، توسعه دهنده‌گان AI و قانون گذاران باید به طور مشترک روی استانداردها، آزمون‌های مستقل، حفاظت از اطلاعات و حریم خصوصی و مهارت‌های نیروی انسانی کار کنند تا از تبدیل این فرصت جذاب به تهدید جلوگیری کنند.

ارزش واقعی این ابزار زمانی به کمال خود می‌رسد که:

·       تصمیم نهایی با کاربر متخصص هر حوزه چشم پزشک، اپتومتریست، عینک ساز باشد.

·       دستورالعمل‌ها و چهارچوب‌های دقیق و شفاف برای مسئولیت حرفه‌ای و حریم خصوصی تدوین و به روزرسانی گردد.

·       استانداردهای فنی رعایت شوند و واحد انسانی مستقل از هوش مصنوعی بر کنترل کیفیت نظارت کند.

نویسنده: اپتومتریست زهره محمدی، کارشناس ارشد اپتومتری