روزنامه انگلیسی «گاردین» نوشت موتور جستجوی «چت جی پی تی جست» (جستجوی چت جی پی تی) مبتنی بر هوش مصنوعی که در ماه جاری راه اندازی شد، مشکل فریب خوردن دارد. متن های گمراه کننده را به همراه دارد و تولید می کند.
به گزارش TechCrunch، ویژگی جستجوی ChatGPT برای سرعت بخشیدن به بررسی با انجام کارهایی مانند خلاصه کردن بررسی های صفحات وب در نظر گرفته شده است، اما گاردین خاطرنشان کرد که این ویژگی می تواند ChatGPT را تشویق کند تا با درج متن پنهان در وب سایت هایی که ایجاد می کنند، خلاصه های کاملاً مثبت را نادیده بگیرد، نظرات منفی را نادیده بگیرد. همچنین ChatGPT Search می تواند کدهای مخرب را با استفاده از این روش استخراج کند.
چنین حملات متنی مخفی یک خطر شناخته شده برای مدل های زبان بزرگ است، اما به نظر می رسد این اولین بار است که در یک محصول جستجوی زنده هوش مصنوعی نشان داده می شود. گاردین اشاره کرد که موتور جستجوی گوگل تجربه بیشتری در برخورد با مشکلات مشابه دارد.
OpenAI در صورت تماس با TechCrunch در مورد این حادثه خاص اظهار نظر نمی کند، اما گفت که از روش های مختلفی برای مسدود کردن وب سایت های مخرب استفاده می کند و دائماً آنها را بهبود می بخشد.
