شرکت اپل از روز گذشته قابلیتی جدید را برای مبارزه با هرزهنگاری کودکان رونمایی کرده است. این قابلیت که «حفاظت از کودکان» نام گرفته باعث میشود تا تصاویر مربوطه به کودکان در ذخیرهسازی ایکلود توسط هوش مصنوعی بررسی شده و از آن طریق موارد مشکوک به پلیس اطلاع داده شوند.
طی این قابلیت، اپلیکیشن Messages در آیفون، آیپد و مک مجهز به یک امکان امنیتی جدید شدهاند که در صورت ارسال محتوای مستهجن یا مربوط به بزرگسالان به آنها مورد بررسی قرار میگیرد و مراتب به والدین کودکان اطلاعرسانی خواهند شد. اپل اعلام کرده که این قابلیت از سیستم یادگیری ماشینی استفاده میکند تا تصاویر ارسالی در پیوست چتها را مورد بررسی قرار دهد و اگر یک تصویر یا محتوای رسانهای به عنوان محتوای جنسی شناخته شود، تصویر به صورت خودکار تار شده و به کودک و والدین در این زمینه اطلاع رسانی میشود.
زمانی که کودک تمایل به باز کردن تصاویر نشانگذاری شده به عنوان خطرناک را داشته باشد، اپلیکیشن Messages این موضوع را به والدین اطلاع میدهد و به کودک نیز اعلام میکند که این تصویر ممکن است آسیب زننده باشد.
اپل اعلام کرده که این قابلیت در ای او اس ۱۵، آیپد او اس ۱۵ و مک او اس مانتری در اختیار تمامی کاربران قرار خواهد گرفت. البته قابلیت یاد شده در فاز اول برای آمریکا و پس از ان برای کشورهای دیگر نیز ارائه خواهد شد.
در گام دوم شرکت اپل امکانی را به نام CSAM ارائه داده است. این قابلیت تمامی تصاویر ذخیره شده در آیکلود را بررسی میکند و از آن طریق در صورت پیدا کردن تصاویر مربوط به هرزهنگاری کودکان یا آزار اذیت افراد کم سن را به مقامات دولتی ارائه میدهد. این موراد در آمریکا به مرکز ملی کودکان گم شده و در معرض آسیب آمریکا (NCMEC) که یک مرکز غیرانتقاعی است ارائه میشود تا از آن طریق اطلاعات در اختیار مقامات دولتی و قضایی قرار بگیرند.
اپل اعلام کرده که برای ارائه این قابلیت حریم خصوصی کاربران را حفظ کرده است و در گام اول تصاویر را با پایگاه داده NCMEC مقایسه میکند، پس از آن در صورت پیدا شدن تصاویر مشکوک از طریق هوش مصنوعی ممکن است افرادی در شرکت اپل این تصاویر را مورد بررسی قرار دهند.
مکانیزم کاری این قابلیت به این صورت است که تصاویر پیش از ذخیره شدن در آیکلود ابتدا توسط یک ابزار مبتنی بر هوش مصنوعی مورد بررسی قرار میگیرند و پس از آن یک سیستم رمزنگاری شده امنیتی ایجاد میشود که با نام CSAM شناخته شده است. در صورت سازگاری عکس با موارد ممنوعه، این تصاویر به صورت دستی و توسط انسان مورد بررسی قرار خواهند گرفت و در نهایت با تایید نهایی مقامات دولتی از این موضوع مطلع خواهند شد.
اپل گذشته به صورت رسمی اعلام کرد که قابلیتی جدید را با عنوان «حفاظت از کودکان» آماده عرضه به دستگاههای مبتنی بر سیستم عامل آی او اس کرده است.
این قابلیت به صورت خودکار و از طریق هوش مصنوعی اقدام به بررسی تصاویر ذخیره شده در دستگاهها و ذخیرهسازی ابری آیکلود کاربران میکند و در صورت پیدا کردن محتوای هرزهنگاری در مورد کودکان، آن را به پلیس و مقامات حکومتی اطلاع میدهد. اپل اعلام کرده که این قابلیت در فاز اول برای آمریکا عرضه میشود، اما در آینده به تمامی کشورها ارائه خواهد شد.
