چت‌جی‌پی‌تی، ابزار هوش مصنوعی محبوب شرکت OpenAI، به تازگی قابلیت‌های جدیدی برای تولید تصاویر پیدا کرده است، اما این پیشرفت با خطرات جدی همراه شده است. تحقیقات نشان می‌دهد که این ابزار می‌تواند به راحتی اسناد جعلی مانند پاسپورت، گواهینامه رانندگی و کارت‌های تأمین اجتماعی تولید کند که نگرانی‌های امنیتی بزرگی را به دنبال دارد.
به گزارش تیتر دو به نقل از فوربز، شرکت امنیت سایبری کاتو نتورکس (Cato Networks) کشف کرده که چت‌جی‌پی‌تی می‌تواند با استفاده از دستورات ساده، اسناد جعلی بسیار واقعی تولید کند. این شامل پاسپورت، کارت‌های شناسایی، چک‌ها و رسیدهای تقلبی است که می‌توانند برای کلاهبرداری‌های مالی، بیمه‌ای و پزشکی استفاده شوند. اتای مائور، استراتژیست ارشد امنیتی کاتو نتورکس، می‌گوید: «اکنون نه تنها مجرمان حرفه‌ای، بلکه هر کسی می‌تواند این کار را انجام دهد و این بسیار نگران‌کننده است.» او در آزمایشی نشان داد که در چند ثانیه، چت‌جی‌پی‌تی پاسپورتی جعلی تولید کرد که شباهت زیادی به یک فرد واقعی داشت. سخنگوی OpenAI، تیا کریستیانسن، اعلام کرد که تصاویر تولیدشده توسط چت‌جی‌پی‌تی دارای متادیتای C2PA هستند تا به‌عنوان تصاویر تولیدشده توسط هوش مصنوعی شناسایی شوند، و این شرکت علیه افرادی که سیاست‌های استفاده را نقض کنند، اقدام می‌کند.
قابلیت جدید چت‌جی‌پی‌تی: از خلاقیت تا جعل
-
در اواخر مارس ۲۰۲۵، OpenAI قابلیت تولید تصویر را به چت‌جی‌پی‌تی اضافه کرد.
-
این قابلیت ابتدا با تولید تصاویر به سبک استودیو جیبلی در شبکه‌های اجتماعی محبوب شد.
-
اما تحقیقات کاتو نتورکس نشان داد که می‌توان از آن برای جعل اسناد هویتی استفاده کرد.
-
این اسناد جعلی می‌توانند برای تأیید هویت در کلاهبرداری‌ها مورد سوءاستفاده قرار گیرند.
-
مائور هشدار داد که این فناوری، اعتماد به اسناد رسمی را تضعیف می‌کند.
پیامدهای امنیتی: جعل آسان‌تر از همیشه
-
پیش‌تر، تولید اسناد جعلی نیاز به مهارت و دسترسی به بازارهای تاریک وب داشت.
-
حالا چت‌جی‌پی‌تی این فرآیند را برای همه ساده و سریع کرده است.
-
اسناد جعلی می‌توانند برای دسترسی به حساب‌های بانکی یا سوءاستفاده از داروهای تجویزی استفاده شوند.
-
مائور می‌گوید: «تمام عناصری که اعتماد را می‌سازند – ظاهر، صدا، مدارک رسمی – در حال از بین رفتن هستند.»
-
این تهدید فراتر از جعل اسناد است؛ هوش مصنوعی برای تولید بدافزار، ایمیل‌های فیشینگ و حملات سایبری نیز استفاده می‌شود.
واکنش‌ها و راه‌حل‌های پیشنهادی
-
OpenAI اعلام کرده که متادیتای C2PA به شناسایی تصاویر جعلی کمک می‌کند.
-
با این حال، کارشناسان معتقدند که این اقدامات کافی نیست.
-
مائور پیشنهاد می‌دهد که باید سیستم‌های تأیید هویت پیشرفته‌تر شوند .
-
او همچنین بر لزوم آگاهی عمومی درباره خطرات این فناوری تأکید می‌کند.
-
این مشکل نیاز به مقررات سخت‌گیرانه‌تر برای استفاده از هوش مصنوعی را تأئید می کند.
این گزارش نشان می‌دهد که پیشرفت‌های هوش مصنوعی، مانند قابلیت‌های چت‌جی‌پی‌تی، در کنار مزایا، تهدیدات جدیدی ایجاد می‌کنند.
آیا می‌توان با تنظیمات مناسب، از سوءاستفاده این فناوری جلوگیری کرد؟ این سؤالی است که پاسخ آن به اقدامات آینده بستگی دارد.
