⭕️چت‌جی‌پی‌تی برای مشخص‌کردن منبع محتوا در متن پاسخ‌هایش پیام‌های پنهانی درج می‌کند
📌اوپن‌ای‌آی گفت که در ابتدا، تنها به «پژوهشگران تاییدشده و سازمان‌های تخصصی» اجازه دسترسی به نرم‌افزار تشخیص‌دهنده را خواهد داد
♦️اوپن‌ای‌آی اعلام کرد که از این پس، متن‌های چت‌جی‌پی‌تی شامل سیگنال‌های پنهانی خواهند بود که به کاربران امکان می‌دهد بررسی کنند این متن‌ها از کجا آمده‌اند.
این شرکت در حال راه‌اندازی تدریجی «نهان‌نگاری (Watermarking) متنی» است و با این هدف که نشان دهد یک خروجی با هوش مصنوعی تولید شده است، در نحوه انتخاب و چینش واژه‌ها تغییرات ظریفی ایجاد می‌کند. قرار است این تغییرات برای خوانندگان انسانی غیرقابل مشاهده باشند، اما سامانه‌های خودکار بتوانند آن‌ها را تشخیص دهند.
[توضیح: واترمارک‌گذاری یا نهان‌نگاری به داده‌ها و نشانه‌های پنهان یا آشکاری گفته می‌شود که به منظور حفظ حق مولف و شناسایی مالکیت، به فایل‌های دیجیتالی از جمله متن‌ها، عکس‌ها، ویدیوها و فایل‌های صوتی اضافه می‌شوند. این نشانه‌ها ممکن است به صورت پنهان، مانند تغییر در بیت‌های فایل که با چشم غیرمسلح دیده نمی‌شود، اجرا شوند]
این اقدام پس از آن صورت می‌گیرد که آنتروپیک اعلام کرد فناوری مشابهی را به «کلود» اضافه خواهد کرد. این امر اعتراض برخی کاربران را که مدعی بودند این [فناوری] قابل‌اعتماد نخواهد بود و دخالتی غیرضروری در چگونگی کار این سامانه محسوب می‌شود، برانگیخت.
هر دو [شرکت] اوپن‌ای‌آی و آنتروپیک این تغییر را در راستای قانون هوش مصنوعی اتحادیه اروپا اعمال کردند؛ قانونی که شرکت‌های سازنده محصولات هوش مصنوعی مولد را ملزم می‌کند خروجی‌هایشان را به‌گونه‌ای ارائه کنند که سامانه‌های خودکار بتوانند آن‌ها را شناسایی کنند. برخلاف آنتروپیک، اوپن‌ای‌آی، این نهان‌نگاری را فقط در اتحادیه اروپا اضافه می‌کند.
اوپن‌ای‌آی سامانه خود را «تکست‌گرین» (textGrain) می‌نامد. این سامانه آنچه را اوپن‌ای‌آی «سیگنال آماری نامرئی» می‌نامد، به شیوه‌ای که چت‌جی‌پی‌تی واژه‌ها را انتخاب می‌کند، می‌افزاید.
اوپن‌ای‌آی هشدار داد که این ابزار هنوز قابل اعتماد نیست و ممکن است متن نوشته‌شده به‌دست انسان را به‌اشتباه، خودکار تشخیص دهد و برعکس. این شرکت گفت این امر به‌ویژه زمانی صادق است که متن کوتاه یا ویرایش شده باشد.
این شرکت تاکید کرد که تصور نمی‌کند نهان‌نگاری کیفیت پاسخ‌های چت‌جی‌پی‌تی را کاهش دهد و به داده‌هایی اشاره کرد که نشان می‌داد متن‌های دارای واترمارک در برخی ارزیابی‌ها در واقع عملکرد بهتری از متن‌های بدون واترمارک داشتند. پس از آنکه آنتروپیک، سامانه مشابه خود را معرفی کرد، برخی کاربران از آن انتقاد کردند و گمانه‌زنی کردند که وجود نهان‌نگاری‌ها باعث خواهد شد خروجی‌های کلود کیفیت پایین‌تری داشته باشند.
بیشتر بخوانید...
🖌 اندرو گریفین
@indypersian
📌اوپن‌ای‌آی گفت که در ابتدا، تنها به «پژوهشگران تاییدشده و سازمان‌های تخصصی» اجازه دسترسی به نرم‌افزار تشخیص‌دهنده را خواهد داد
♦️اوپن‌ای‌آی اعلام کرد که از این پس، متن‌های چت‌جی‌پی‌تی شامل سیگنال‌های پنهانی خواهند بود که به کاربران امکان می‌دهد بررسی کنند این متن‌ها از کجا آمده‌اند.
این شرکت در حال راه‌اندازی تدریجی «نهان‌نگاری (Watermarking) متنی» است و با این هدف که نشان دهد یک خروجی با هوش مصنوعی تولید شده است، در نحوه انتخاب و چینش واژه‌ها تغییرات ظریفی ایجاد می‌کند. قرار است این تغییرات برای خوانندگان انسانی غیرقابل مشاهده باشند، اما سامانه‌های خودکار بتوانند آن‌ها را تشخیص دهند.
[توضیح: واترمارک‌گذاری یا نهان‌نگاری به داده‌ها و نشانه‌های پنهان یا آشکاری گفته می‌شود که به منظور حفظ حق مولف و شناسایی مالکیت، به فایل‌های دیجیتالی از جمله متن‌ها، عکس‌ها، ویدیوها و فایل‌های صوتی اضافه می‌شوند. این نشانه‌ها ممکن است به صورت پنهان، مانند تغییر در بیت‌های فایل که با چشم غیرمسلح دیده نمی‌شود، اجرا شوند]
این اقدام پس از آن صورت می‌گیرد که آنتروپیک اعلام کرد فناوری مشابهی را به «کلود» اضافه خواهد کرد. این امر اعتراض برخی کاربران را که مدعی بودند این [فناوری] قابل‌اعتماد نخواهد بود و دخالتی غیرضروری در چگونگی کار این سامانه محسوب می‌شود، برانگیخت.
هر دو [شرکت] اوپن‌ای‌آی و آنتروپیک این تغییر را در راستای قانون هوش مصنوعی اتحادیه اروپا اعمال کردند؛ قانونی که شرکت‌های سازنده محصولات هوش مصنوعی مولد را ملزم می‌کند خروجی‌هایشان را به‌گونه‌ای ارائه کنند که سامانه‌های خودکار بتوانند آن‌ها را شناسایی کنند. برخلاف آنتروپیک، اوپن‌ای‌آی، این نهان‌نگاری را فقط در اتحادیه اروپا اضافه می‌کند.
اوپن‌ای‌آی سامانه خود را «تکست‌گرین» (textGrain) می‌نامد. این سامانه آنچه را اوپن‌ای‌آی «سیگنال آماری نامرئی» می‌نامد، به شیوه‌ای که چت‌جی‌پی‌تی واژه‌ها را انتخاب می‌کند، می‌افزاید.
اوپن‌ای‌آی هشدار داد که این ابزار هنوز قابل اعتماد نیست و ممکن است متن نوشته‌شده به‌دست انسان را به‌اشتباه، خودکار تشخیص دهد و برعکس. این شرکت گفت این امر به‌ویژه زمانی صادق است که متن کوتاه یا ویرایش شده باشد.
این شرکت تاکید کرد که تصور نمی‌کند نهان‌نگاری کیفیت پاسخ‌های چت‌جی‌پی‌تی را کاهش دهد و به داده‌هایی اشاره کرد که نشان می‌داد متن‌های دارای واترمارک در برخی ارزیابی‌ها در واقع عملکرد بهتری از متن‌های بدون واترمارک داشتند. پس از آنکه آنتروپیک، سامانه مشابه خود را معرفی کرد، برخی کاربران از آن انتقاد کردند و گمانه‌زنی کردند که وجود نهان‌نگاری‌ها باعث خواهد شد خروجی‌های کلود کیفیت پایین‌تری داشته باشند.
بیشتر بخوانید...
🖌 اندرو گریفین
@indypersian
Comments
Be the first to add a comment
Log in to comment