مدل‌های تصمیم‌گیری هوش مصنوعی وارد حوزه مدیریت محتوا می‌شوند

Thursday 08 - 16:40

هوش مصنوعی در حال گسترش به حوزه دیگری از پلتفرم‌های دیجیتال است زیرا مدل‌های تصمیم‌گیری به طور فزاینده‌ای برای مدیریت محتوای آنی توسعه می‌یابند. شرکت هوش مصنوعی مستقر در ایالات متحده، موسوبی، مدل PolicyLM-1.7B را معرفی کرده است که مدلی سبک طراحی شده برای ارزیابی پیام‌های آنلاین بر اساس سیاست‌های مدیریت مکتوب بدون نیاز به یک چرخه آموزشی جدید هر بار که این قوانین تغییر می‌کنند.

این مدل با وزن‌های باز منتشر شده است و طراحی شده تا به توسعه‌دهندگان و اپراتورهای پلتفرم اجازه دهد آن را بر روی زیرساخت‌های خود اجرا و تطبیق دهند. هدف اصلی آن تبدیل قوانین مدیریت نوشته شده به زبان عادی به دسته‌بندی‌هایی است که می‌توان به طور مستقیم به محتوای تولید شده توسط کاربران اعمال کرد.

موسوبی می‌گوید که PolicyLM-1.7B می‌تواند تصمیمات مدیریت را در زمان واقعی اتخاذ کند و این شرکت گزارش می‌دهد که زمان پردازش میانه برای پیام‌های کوتاه در حدود 35 میلی‌ثانیه بر روی یک GPU NVIDIA L4 و حدود 22 میلی‌ثانیه بر روی H100 در آزمایشات خود بوده است. توصیف محصول گسترده‌تر به دنبال تصمیمات در کمتر از 50 میلی‌ثانیه است.

این مدل با طبقه‌بندی‌کننده‌های سنتی مدیریت متفاوت است زیرا به اپراتورها اجازه می‌دهد در حین استفاده، دستورالعمل‌های سیاست خود را ارائه دهند. این بدان معناست که وقتی یک پلتفرم قوانین خود را تغییر می‌دهد، تیم‌های آن می‌توانند سیاست را تغییر دهند به جای اینکه مدل زیرین را از ابتدا آموزش دهند.

این انعطاف‌پذیری می‌تواند به ویژه برای پلتفرم‌های آنلاین که با استانداردهای مدیریت به سرعت در حال تغییر مواجه هستند، مربوط باشد. تیم‌های محصول و اعتماد و ایمنی می‌توانند دسته‌ها و قوانین را بر اساس نیازهای خاص خود تعریف کنند، در حالی که مدل امتیازاتی تولید می‌کند که نشان می‌دهد آیا یک پیام در این دسته‌ها قرار می‌گیرد یا خیر.

مدل‌های تصمیم‌گیری توجه فزاینده‌ای را در صنعت هوش مصنوعی جلب کرده‌اند زیرا بر تولید تصمیمات یا احتمالات تمرکز می‌کنند تا تولید متن طولانی. با محدود کردن خروجی به دسته‌های از پیش تعریف شده، این سیستم‌ها می‌توانند به طور بالقوه سریع‌تر و با منابع محاسباتی کمتری نسبت به مدل‌های زبان بزرگ عمومی عمل کنند.

PolicyLM-1.7B همچنین می‌تواند با یک طبقه‌بندی ایمنی از پیش تعریف شده که شامل 23 دسته از جمله خشونت، آزار و اذیت، تهدیدات، کلاهبرداری، نقض حریم خصوصی و سایر اشکال محتوای بالقوه مضر است، استفاده شود. موسوبی می‌گوید که این مدل در 19 زبان ارزیابی شده است، هرچند که آزمایش سیاست سفارشی آن عمدتاً شامل سیاست‌های نوشته شده به زبان انگلیسی بوده است.

این فناوری بر پایه کارهای قبلی در هوش مصنوعی مبتنی بر تصمیم‌گیری ساخته شده است. فیلیپ یانکوویچ، هم‌بنیان‌گذار و مدیر ارشد هوش مصنوعی موسوبی، رویکرد این شرکت را به پروژه‌ای در سال 2024 مرتبط کرده است که GLiNER نام دارد و قبل از افزایش فعلی علاقه به مدل‌های تصمیم‌گیری توسعه یافته است. این شرکت اکنون مدیریت محتوا را به عنوان یک کاربرد عملی برای همان رویکرد زیرین می‌بیند.

در عین حال، توسعه‌دهندگان مدل اذعان می‌کنند که این فناوری برای سناریوهای خاص مدیریت طراحی شده است و نه هر نوع تصمیم ایمنی. مستندات مدل آن اشاره می‌کند که این مدل برای طبقه‌بندی سریع پیام‌های متنی فردی طراحی شده و نه به عنوان تنها محافظ برای موارد به‌ویژه حساس مانند ایمنی کودکان یا خودآسیبی.

این انتشار در حالی است که پلتفرم‌های دیجیتال با حجم فزاینده‌ای از محتوای تولید شده توسط کاربران و فشار رو به افزایش برای اجرای قوانین به طور فزاینده‌ای دقیق مواجه هستند. ابزارهای مدیریت خودکار می‌توانند به پردازش مقادیر زیادی از مواد کمک کنند، در حالی که تیم‌های انسانی همچنان مسئول تعریف سیاست‌ها، بررسی موارد دشوار و تعیین چگونگی اعمال تصمیمات اجرایی هستند.

رویکرد وزن‌های باز موسوبی همچنین به توسعه‌دهندگان اجازه می‌دهد تا خودشان مدل را بررسی و پیاده‌سازی کنند و نه اینکه به طور انحصاری به یک سرویس مدیریت میزبان تکیه کنند. با این حال، ارقام عملکرد منتشر شده توسط شرکت از ارزیابی‌های خود آن به دست آمده و مستندات مدل بیان می‌کند که هنوز بر روی ترافیک زنده آزمایش نشده است، به این معنی که عملکرد آن در دنیای واقعی ممکن است با نتایج معیار متفاوت باشد.

این راه‌اندازی یک تغییر گسترده‌تر در توسعه هوش مصنوعی را نشان می‌دهد، با مدل‌های کوچک‌تر و تخصصی‌تر که برای انجام وظایف به‌طور سریع و کارآمد طراحی شده‌اند. برای مدیریت محتوا، ترکیب قوانین قابل تنظیم، طبقه‌بندی سریع و پیاده‌سازی محلی می‌تواند به پلتفرم‌ها ابزار دیگری برای مدیریت جریان فزاینده و پیچیده محتوای آنلاین بدهد.