اخبار IT و رویدادهای فناوری

واترمارک متنی Claude چیست و چگونه کار می‌کند؟ بررسی فنی و کاربردهای آن

تصویر مفهومی بررسی و تشخیص واترمارک متنی Claude

با گسترش استفاده از مدل‌های زبانی بزرگ، تشخیص منشأ محتوای تولیدشده توسط هوش مصنوعی به یکی از موضوعات مهم در حوزه فناوری تبدیل شده است. مسئله فقط تشخیص تولید یک متن توسط انسان یا هوش مصنوعی نیست؛ بلکه در بسیاری از کاربردها لازم است مشخص شود که آیا یک مدل مشخص در تولید یا ویرایش محتوا نقش داشته است یا خیر.

در همین راستا، شرکت Anthropic در ۱۴ اوت ۲۰۲۶ اعلام کرده است که مدل‌های جدید Claude به واترمارک متنی مجهز می‌شوند. هدف این فناوری، ایجاد سیگنالی در متن تولیدشده است که برای خواننده قابل مشاهده نیست، اما با استفاده از سازوکار تشخیص مربوط به آن می‌توان احتمال دخالت Claude در تولید متن را بررسی کرد. Anthropic این اقدام را در ارتباط با الزامات شفافیت محتوای تولیدشده توسط هوش مصنوعی در چارچوب قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) معرفی کرده است.

اما نکته مهم درباره این فناوری، نحوه ایجاد واترمارک است. برخلاف واترمارک‌های تصویری یا برخی روش‌های مبتنی بر metadata، در واترمارک متنی Claude چیزی به متن اضافه نمی‌شود و هیچ کاراکتر مخفی یا توکن اضافی در خروجی قرار نمی‌گیرد. سیگنال واترمارک در همان فرآیند انتخاب توکن‌های متن ایجاد می‌شود.

واترمارک متنی Claude چگونه کار می‌کند؟

برای درک مکانیزم، باید به مرحله‌ای نگاه کنیم که مدل در هر گام، توکن بعدی را انتخاب می‌کند. Claude بر اساس متن قبلی، احتمال گزینه‌های مختلف برای ادامه جمله را محاسبه می‌کند. در بسیاری از موقعیت‌ها چند انتخاب از نظر معنا و کیفیت تقریباً هم‌ارزش هستند. در حالت عادی، انتخاب میان چنین گزینه‌هایی به سازوکار تصادفی انتخاب توکن‌ها وابسته است.

Anthropic در روش خود، این بخش از فرایند را به این شکل تغییر می‌دهد: منبع تصادفی مورد استفاده برای انتخاب توکن دیگر کاملاً مستقل نیست، بلکه با یک کلید واترمارک و بخشی از متن قبلی تعیین می‌شود.

فرض کنیم Claude در حال تکمیل جمله‌ای است و برای کلمه بعدی چند گزینه مناسب در اختیار دارد. مدل ابتدا احتمال هر گزینه را محاسبه می‌کند و در یک سیستم sampling معمولی، انتخاب نهایی از این توزیع احتمال انجام می‌شود. بعد از انتخاب کلمه همین فرایند برای انتخاب کلمات بعدی نیز تکرار می‌شود. پس تا به اینجا فرایند به صورت زیر است:

متن قبلی ← احتمال توکن‌ها ← sampling ← انتخاب توکن بعدی (و در یک متن این فرایند هزاران بار تکرار می‌شود).

در حالت واترمارک‌شده، یک سازوکار به مرحله sampling اضافه می‌شود؛ به جای یک انتخاب معمولی، یک کلید مخفی وارد این فرایند می‌شود و سیستم با استفاده از این کلید و بخشی از متن قبلی، نحوه تصادفی‌سازی انتخاب را تعیین می‌کند. در نتیجه فرایند بالا به شکل زیر تغییر می‌کند:

  1. متن قبلی
  2. محاسبه احتمال توکن‌های بعدی
  3. بخشی از توکن‌های قبلی + کلید واترمارک
  4. تعیین منبع تصادفی برای Sampling
  5. انتخاب توکن بعدی

کلید واترمارک مستقیماً تعیین نمی‌کند که کدام کلمه انتخاب شود؛ بلکه در تعیین نحوه تصادفی‌سازی فرآیند انتخاب توکن نقش دارد.

فرض کنیم این اتفاق در طول یک متن ۱۰۰۰ بار تکرار شود. هیچ‌یک از ۱۰۰۰ انتخاب به‌تنهایی نشان نمی‌دهد که متن دارای واترمارک است. ممکن است در یک مرحله یک کلمه و در مرحله بعد کلمه دیگری انتخاب شود و هر دو کاملاً طبیعی به نظر برسند. اما وقتی مجموع این انتخاب‌ها بررسی شود، ممکن است الگوی آماری خاصی شکل گرفته باشد که با الگوی مورد انتظار سیستم واترمارک سازگار باشد. همین الگو همان سیگنالی است که بعداً می‌تواند توسط Detector بررسی شود.

در نتیجه واترمارک به این معنا نیست: «این کلمه واترمارک شده است»؛ بلکه مفهوم آن این است: «مجموع رفتار انتخاب توکن‌ها در این متن با الگویی که سازوکار واترمارک ایجاد می‌کند، سازگاری دارد.»

بنابراین می‌توان فرایند ایجاد واترمارک را به شکل زیر خلاصه کرد:

  1. تولید توزیع احتمال برای توکن‌های بعدی
  2. استفاده از کلید واترمارک و بخشی از متن قبلی
  3. تعیین نحوه انتخاب تصادفی توکن
  4. انتخاب توکن بعدی
  5. تکرار فرایند در طول تولید متن
  6. شکل‌گیری یک الگوی آماری قابل تشخیص

تشخیص واترمارک چگونه انجام می‌شود؟

تشخیص واترمارک نیز بر اساس جست‌وجوی یک علامت مخفی انجام نمی‌شود. سامانه تشخیص، توالی توکن‌های متن را بررسی می‌کند و با استفاده از کلید مربوط به واترمارک، میزان سازگاری این توالی با الگویی را که انتظار می‌رود از فرآیند تولید واترمارک‌شده به وجود آمده باشد، ارزیابی می‌کند. Detector توکن‌های متن را بررسی می‌کند؛ یعنی می‌تواند بررسی کند: «اگر این متن واقعاً با این سیستم واترمارک تولید شده بود، انتظار داشتیم انتخاب توکن‌ها چه الگوی آماری‌ای داشته باشند؟» در ادامه متن واقعی را با آن الگو مقایسه کرده و احتمال وجود واترمارک را بررسی می‌کند.

در نتیجه، خروجی تشخیص را باید به‌صورت احتمال دخالت Claude در نظر گرفت، نه اثبات قطعی نویسندگی. Anthropic صراحتاً اعلام کرده است که واترمارک نمی‌تواند مشخص کند Claude متن را به‌طور کامل نوشته یا تنها آن را ویرایش کرده است. همچنین نمی‌تواند تشخیص دهد که متنی که واترمارک Claude ندارد، حتماً توسط انسان نوشته شده است.

Anthropic اعلام کرده است که یک Watermark Detection API نیز ارائه خواهد کرد تا بتوان تولید شدن یک متن توسط کلود را بررسی کرد، اما هنوز مستندات و کلید دسترسی عمومی آن ارائه نشده است.

تفاوت واترمارک متنی Claude با AI Detector و C2PA

ویژگی واترمارک متنی Claude AI Detector C2PA
هدف اصلی بررسی احتمال دخالت Claude در تولید یا پردازش متن تخمین احتمال تولید متن توسط هوش مصنوعی ثبت و بررسی منشأ و تاریخچه محتوای دیجیتال
محل ایجاد در فرآیند انتخاب توکن هنگام تولید متن معمولاً پس از تولید متن و با تحلیل ویژگی‌های آن در قالب Content Credentials و اطلاعات مرتبط با فایل
روش کار ایجاد یک سیگنال آماری در الگوی انتخاب توکن‌ها بررسی الگوهای زبانی و ویژگی‌های متن ثبت اطلاعات منشأ محتوا به‌صورت ساختاریافته و قابل اعتبارسنجی
نیاز به کلید اختصاصی بله، برای بررسی واترمارک Claude خیر بر پایه سازوکارهای رمزنگاری و اعتبارسنجی C2PA
آیا چیزی به متن اضافه می‌شود؟ خیر خیر اطلاعات منشأ در قالب Content Credentials ثبت می‌شود
نوع محتوای اصلی متن تولیدشده توسط Claude عمدتاً متن تصاویر، ویدیو و سایر فایل‌های پشتیبانی‌شده
نتیجه تشخیص احتمال دخالت Claude احتمال AI-generated بودن متن اطلاعات مربوط به منشأ و سابقه محتوا
آیا نتیجه قطعی است؟ خیر خیر اعتبار اطلاعات ثبت‌شده قابل بررسی است، اما به معنای اثبات نویسندگی نیست
نمونه Claude Text Watermark ابزارهایی مانند Pangram C2PA Content Credentials

نقش SynthID-Text در ایجاد این واترمارک چیست؟

Anthropic اعلام کرده است که واترمارک Claude نسخه‌ای از رویکرد SynthID-Text است که Google DeepMind در سال ۲۰۲۴ در مجله Nature معرفی کرد. SynthID-Text نیز واترمارک را در مرحله تولید متن و با تغییر فرآیند sampling ایجاد می‌کند، نه با افزودن اطلاعات اضافی به خروجی.

در طراحی منتشرشده SynthID-Text، این فرایند از سه بخش اصلی تشکیل می‌شود: تولید یک seed تصادفی، الگوریتم sampling و تابع scoring. Seed در هر مرحله می‌تواند بر اساس متن قبلی و کلید واترمارک تولید شود و sampling بر اساس آن، توکن خروجی را انتخاب می‌کند. در نسخه منتشرشده SynthID-Text، این انتخاب با الگوریتم Tournament Sampling انجام می‌شود؛ در این روش چند گزینه از توزیع مدل انتخاب شده و طی چند مرحله با یکدیگر رقابت می‌کنند تا توکنی که بیشترین سازگاری را با سیگنال واترمارک دارد انتخاب شود.

البته باید میان فناوری منتشرشده SynthID-Text و پیاده‌سازی Claude تفاوت قائل شد. Anthropic اعلام کرده است که Claude از نسخه‌ای از رویکرد SynthID-Text استفاده می‌کند، اما این موضوع به معنای انتشار تمام پارامترها و جزئیات اجرایی نسخه مورد استفاده در Claude نیست. بنابراین نمی‌توان پارامترهای آزمایشی مقاله SynthID-Text را بدون منبع، به‌عنوان تنظیمات قطعی Claude معرفی کرد.

محدودیت‌های واترمارک Claude چیست؟

واترمارک کلود در متن‌های کوتاه دارای محدودیت است. برای تشخیص یک الگوی آماری، تعداد کافی از انتخاب‌ها لازم است. هرچه متن طولانی‌تر باشد و مدل در طول تولید با انتخاب‌های بیشتری مواجه شود، اطلاعات بیشتری برای ارزیابی وجود دارد. در متن‌های کوتاه، تعداد انتخاب‌ها کمتر است و تشخیص دشوارتر می‌شود.

محدودیت دیگر به محتوایی مربوط می‌شود که انتخاب‌های محدودی دارد. برای مثال، در یک عبارت factual مانند «۲ + ۲ = ۴»، تغییر انتخاب توکن می‌تواند باعث ایجاد خطا شود. در چنین مواردی واترمارک نمی‌تواند مدل را به انتخاب متفاوتی وادار کند. به همین دلیل، متن‌های factual و همچنین کدها معمولاً فرصت کمتری برای ایجاد سیگنال واترمارک دارند. در مقابل، بخش‌هایی مانند کامنت‌های کد که آزادی بیشتری در انتخاب کلمات دارند، می‌توانند امکان بیشتری برای watermarking داشته باشند.

ویرایش متن نیز بر قدرت تشخیص تأثیر دارد. ویرایش‌های محدود ممکن است سیگنال واترمارک را به‌طور کامل از بین نبرند، اما بازنویسی گسترده‌ای که تقریباً تمام کلمات را تغییر دهد، می‌تواند بخش عمده این سیگنال را حذف کند.

جمع‌بندی

واترمارک متنی Claude رویکردی برای ایجاد یک سیگنال قابل‌تشخیص در فرایند تولید متن است، بدون اینکه محتوای خروجی برای خواننده تغییر محسوسی داشته باشد. طبق توضیحات Anthropic، این روش کیفیت یا محتوای عملی خروجی را تحت تأثیر قرار نمی‌دهد، چیزی به متن اضافه نمی‌کند و هیچ کاراکتر مخفی یا اضافی در آن قرار نمی‌دهد. همچنین ایجاد واترمارک به توکن‌های اضافی نیاز ندارد و هزینه تولید متن را افزایش نمی‌دهد.

این واترمارک حاوی اطلاعات هویتی نیست و نمی‌توان از طریق آن متن را به یک فرد، سازمان یا گفت‌وگوی مشخص نسبت داد. بنابراین، هدف آن شناسایی نقش احتمالی Claude در تولید یا پردازش محتوا است، نه شناسایی کاربر یا تعیین مالکیت محتوا.

از سوی دیگر، واترمارک متنی Claude بخشی از روند گسترده‌تر صنعت برای افزایش شفافیت درباره محتوای تولیدشده توسط هوش مصنوعی است. با اجرای الزامات مرتبط با شفافیت محتوای AI در اتحادیه اروپا از ۲ اوت ۲۰۲۶، ارائه‌دهندگان مدل‌های هوش مصنوعی فعال در بازار اروپا نیز به سمت استفاده از سازوکارهای مشابه برای علامت‌گذاری محتوای تولیدشده توسط AI حرکت می‌کنند. بنابراین، واترمارکینگ را می‌توان یکی از اجزای مهم‌تر زیرساخت تشخیص منشأ و شفافیت محتوای هوش مصنوعی در نظر گرفت.

سوالات متداول درباره Claude Text Watermark

چگونه می‌توان بررسی کرد که یک متن با Claude نوشته شده است؟

Anthropic اعلام کرده است که به‌زودی API تشخیص واترمارک Claude (Watermark Detection API) را ارائه خواهد کرد.

آیا Claude Watermark همان AI Detector است؟

خیر. ابزارهای تشخیص عمومی به کلید خصوصی مورد استفاده در سیستم واترمارک Claude دسترسی ندارند. در عوض، این سرویس‌ها ویژگی‌ها و الگوهای مختلف متن را بررسی می‌کنند؛ از جمله الگوهای زبانی و عباراتی که ممکن است در نوشته‌های تولیدشده توسط مدل‌های هوش مصنوعی بیشتر دیده شوند. تفاوت اصلی این است که AI Detectorهای عمومی به دنبال الگوهای احتمالی در سبک و زبان متن هستند، اما سیستم تشخیص واترمارک Claude به دنبال سیگنالی است که در هنگام تولید متن توسط سازوکار واترمارک ایجاد شده است.

آیا می‌توان با ویرایش متن، واترمارک Claude را از بین برد؟

تا حدی بله. Anthropic توضیح می‌دهد که ویرایش‌های جزئی احتمالاً واترمارک را به‌طور کامل از بین نمی‌برند، اما یک بازنویسی کامل که تقریباً تمام کلمات متن را تغییر دهد، می‌تواند سیگنال واترمارک را از بین ببرد.

آیا Claude Watermark می‌تواند GPT یا Gemini را تشخیص دهد؟

خیر. فناوری Anthropic برای بررسی احتمال دخالت Claude طراحی شده و نبود watermark Claude نمی‌تواند ثابت کند متن توسط انسان یا مدل دیگری تولید شده است.

آیا واترمارک Claude برای تصاویر و فایل‌های دیگر نیز وجود دارد؟

بله، اما سازوکار آن با واترمارک متنی متفاوت است. طبق توضیح Anthropic، هنگامی که Claude یک فایل از انواع پشتیبانی‌شده مانند PNG، JPG یا SVG تولید کند، یک Content Credential به شکل یادداشت کوچک و رمزنگاری‌شده در متادیتای فایل قرار می‌گیرد که نشان می‌دهد این فایل با استفاده از Claude تولید یا پردازش شده است.

این اطلاعات از استاندارد صنعتی C2PA استفاده می‌کند؛ استانداردی که در صنعت دوربین و نرم‌افزارهای ویرایش تصویر نیز برای ثبت منشأ محتوا و نحوه ایجاد آن مورد استفاده قرار می‌گیرد (C2PA یک استاندارد فنی برای ثبت و اعتبارسنجی اطلاعات مربوط به منشأ و تاریخچه محتوای دیجیتال است). ابزارهای سازگار با C2PA می‌توانند این اطلاعات را بخوانند و Anthropic نیز اعلام کرده است که ابزار اختصاصی خود را برای بررسی این اطلاعات ارائه خواهد کرد.

نکته مهم این است که Content Credential با واترمارک متنی یکسان نیست. در این روش، چیزی به محتوای فایل اضافه یا در آن پنهان نمی‌شود و اطلاعات مربوط به Claude در قالب داده‌های متادیتا ثبت می‌شود. این اطلاعات نیز صرفاً نشان می‌دهد که Claude در تولید یا پردازش فایل نقش داشته و شامل اطلاعات هویتی درباره کاربر نیست.

آیا ترجمه‌ای که با Claude انجام می‌شود نیز واترمارک دارد؟

بله. طبق توضیح Anthropic، ترجمه‌ای که توسط Claude تولید شود نیز دارای واترمارک خواهد بود؛ زیرا در این حالت، تمام کلمات ترجمه توسط Claude انتخاب می‌شوند.

آیا مدل‌های قدیمی Claude نیز واترمارک دارند؟

Anthropic اعلام کرده است که قانون اتحادیه اروپا برای مدل‌های Anthropic که پیش از ۲ اوت ۲۰۲۶ عرضه شده‌اند، یک دوره انتقالی در نظر گرفته است. این شرکت همچنین اعلام کرده که در حال کار برای اضافه کردن واترمارک به مدل‌های قدیمی‌تر Claude است و این قابلیت طی ماه‌های آینده به‌تدریج ارائه خواهد شد.

آیا واترمارک Claude مالکیت یا مسئولیت قانونی محتوا را تغییر می‌دهد؟

خیر. Anthropic تأکید می‌کند که واترمارک صرفاً می‌تواند برای بررسی احتمال تولید یا پردازش محتوا توسط Claude مورد استفاده قرار گیرد و درباره مالکیت، نویسندگی یا مسئولیت قانونی محتوا تصمیم‌گیری نمی‌کند. به عبارت دیگر، وجود واترمارک به این معنا نیست که Claude مالک محتوا یا نویسنده قانونی آن محسوب می‌شود. این فناوری صرفاً اطلاعاتی درباره نقش احتمالی Claude در فرایند تولید یا پردازش محتوا ارائه می‌دهد و حقوق کاربر را طبق شرایط استفاده Anthropic تغییر نمی‌دهد. Anthropic همچنین اعلام کرده است که واترمارک تنها زمانی روی محتوا یا فایل اعمال می‌شود که Claude در تولید یا پردازش آن محتوا نقش داشته باشد.

منابع

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *