چت جی پی تی سرچ در خطر فریب خوردن است
نیازگاه: گزارش ها حاکی از این هستند که «چت جی پی تی سرچ» در خطر فریب خوردن قرار دارد و ممکنست اطلاعات اشتباه را عرضه نماید.
به گزارش نیازگاه به نقل از ایسنا، روزنامه بریتانیایی «گاردین» نوشت موتور جست وجوی «چت جی پی تی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه اندازی گردید، با مشکل فریب خوردن هم راه است و متن های گمراه کننده را تولید می کند.
به نقل از تک کرانچ، هدف از خاصیت چت جی پی تی سرچ این است که با انجام دادن کارهایی مانند خلاصه کردن بررسی های صفحه وب، به مرور سرعت بدهد، اما گاردین اشاره کرد که این توانایی می تواند چت جی پی تی را تشویق کند تا نظرات منفی را نادیده بگیرد و با درج متن پنهان در وب سایت هایی که ایجاد کرده، خلاصه های کاملا مثبت را تولید نماید. همچنین، چت جی پی تی سرچ با استفاده از این تکنیک می تواند رمزهای مخرب را استخراج کند.
اینگونه حملات متنی مخفی، یک خطر شناخته شده برای مدلهای زبانی بزرگ هستند، اما به نظر می آید این نخستین بار است که در یک محصول جستجوی زنده با هوش مصنوعی نشان داده می شود. گاردین اشاره کرد که موتور جست وجوی «گوگل»، تجربه بیشتری را در برخورد با مشکلات مشابه دارد.
شرکت «اوپن ای آی»(OpenAI) به تماس تک کرانچ درباره ی این اتفاق خاص اظهار نظر نکرد، اما اظهار داشت که از روش های گوناگونی برای مسدود کردن وب سایت های مخرب استفاده می نماید و بطور مداوم درحال بهبود بخشیدن آنست.
منبع: niazgah.ir
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب