هوش مصنوعی از حریم کودکان محافظت میکند
شرکت OpenAI از ابزار جدیدی رونمایی کرده که بهگفته این شرکت، به بازرسان پروندههای مربوط به آزار جنسی کودکان کمک میکند تا از میان حجم انبوه گزارشها، موارد آسیبزا را سریعتر شناسایی و برای رسیدگی به آنها اقدام کنند. این ابزار میتواند تصاویر آزاردهنده کودکان را با دقت بیشتری تشخیص دهد و مشخص کند که آیا این محتوا با هوش مصنوعی تولید شده است یا خیر.
OpenAI همچنین دسترسی رایگان به این ابزار را در اختیار سازمانهای تأییدشده قرار میدهد، راهنماییهای بیشتری برای تشخیص این نوع محتوا به توسعهدهندگان ارائه میکند و به آموزش نیروهای مجری قانون درباره نحوه استفاده از هوش مصنوعی در تحقیقاتشان کمک خواهد کرد. سیاستگذاران و نهادهای مختلف خواستار اعمال محدودیتهای ایمنی بیشتر بر ابزارهای هوش مصنوعی هستند و OpenAI و سایر شرکتها را به سادهسازی آسیبرساندن به کودکان متهم میکنند.
در سالهای اخیر، تصاویر جنسی دیپفیک تولیدشده توسط هوش مصنوعی از کودکان، سامانههایی مانند CyberTipline متعلق به مرکز ملی کودکان گمشده و استثمارشده آمریکا (NCMEC) را با خطر اشباع روبهرو کرده است. این سامانه که گزارشهای مربوط به محتوای آزار جنسی کودکان (CSAM) را جمعآوری و اولویتبندی میکند، در سال۲۰۲۵ میلادی ۴۰۰هزار گزارش مرتبط با هوش مصنوعی مولد دریافت کرده که نسبت به ۶۷هزار گزارش در سال۲۰۲۴ میلادی افزایش چشمگیری داشته است. پژوهشگران نیز هشدار دادهاند که این هجوم میتواند حجم کاری NCMEC را «غیرقابل مدیریت» کند. دولت ایالات متحده اعلام کرده که تولید و انتشار محتوای آزار جنسی کودکان، چه با هوش مصنوعی و چه بدون آن، غیرقانونی است و ۴۸ایالت نیز قوانینی برای مقابله با دیپفیکهای جنسی مبتنی بر هوش مصنوعی وضع کردهاند. با اینحال، ابزارهای ساخت چنین تصاویری بهطور گسترده در دسترس است و بهگفته پژوهشگران، تصاویر جعلی میتواند تشخیص مواردی را که در آن یک کودک واقعا در معرض آسیب قرار دارد، دشوارتر کند.