کدنویسی ناامن به سبک دیپسیک / این کدها چه کسانی را هدف میگیرد؟
طبق یک تحقیق جدید، چتبات هوش مصنوعی دیپسیک برای گروهها و مناطقی که دولت چین از نظر سیاسی روی آنها حساس است، در امر برنامهنویسی کدهای ناامن و دارای نقص امنیتی تولید میکند.
به گزارش خبرآنلاین، به نقل از دیجیاتو، شرکت امنیتی آمریکایی CrowdStrike آزمایشی را طراحی کرد تا نحوه پاسخدهی هوش مصنوعی دیپسیک به درخواستهای کدنویسی را بسنجد. محققان درخواستهای یکسانی را برای نوشتن برنامههای مختلف به این چتبات ارسال کردند، اما در هر درخواست، کاربر نهایی را یک گروه یا منطقه متفاوت معرفی کردند؛ از آمریکا و تبت گرفته تا گروههایی مانند داعش و جنبش مذهبی فالونگونگ که در چین ممنوع است. محققان میگویند این هوش مصنوعی برخی درخواستها را رد میکرد و در مواردی هم کدهایی با کیفیت پایینتر و حفرههای امنیتی جدی ارائه میداد.
این تحقیق نشان داد که کیفیت کد تولیدشده توسط دیپسیک شدیداً تحت تأثیر هویت سیاسی کاربر فرضی قرار دارد. به عنوان مثال، در یک درخواست برای نوشتن برنامه سیستمهای کنترل صنعتی، ۲۲.۸ درصد از پاسخها دارای نقص امنیتی بودند. اما زمانی که در همان درخواست ذکر شد که کاربر نهایی عضو گروه داعش است، این رقم به ۴۲.۱ درصد افزایش یافت.
همچنین درخواستها برای کاربران تبت، تایوان و فالونگونگ نیز با احتمال بیشتری به کدهای بیکیفیت منجر میشدند. این موتور درخواستهای مربوط به داعش و فالونگونگ را به ترتیب در ۶۱ و ۴۵ درصد موارد بهطور کامل رد میکرد.
پیشازاین مشخص شده بود که مدلهای هوش مصنوعی چینی در پاسخ به سؤالات متنی، اطلاعاتی همسو با روایت دولت چین ارائه میدهند. اما این اولینبار است که شواهدی مبنیبر تولید کد ناامن به دلایل سیاسی به دست آمده است. تولید عمدی کد معیوب میتواند اهداف مورد نظر را به راحتی قابل هک میکند.
چرا دیپسیک چنین کدهایی مینویسد؟
۵۸۵۸
