اخبار ایران و جهان فناوری

هوش مصنوعی پول مشتریان بانک را بالا می‌کشید!

هوش مصنوعی
نوشته شده توسط محمد حسین نیرین

سالی که تصور می‌شد سال پیشرفت غیر منتظره‌ای برای هوش مصنوعی باشد، ناگهان به پسرفت تبدیل شد. یک سیستم هوشمند بانکداری که از هوش مصنوعی بهره می‌گرفت، در حالی گیر افتاد که از مشتریان پول می‌دزدید! این رویداد عجیب شاید استفاده روزمره از هوش مصنوعی را به تعویق بیندازد.
لن میهادولر، یک دانشمند علوم کامپیوتر ام.آی.تی. که در این کار نقشی نداشته است می‌گوید: « این ماجرا یک کابوس است.» از طرفی دیگر راب آت، دانشمند علوم کامپیوتر دانشگاه استنفورد که در این برنامه یعنی اینترفیس یادگیری عمیق برای حسابداری ( (DELIA)Deep Learning Interface for Accounting) همکاری داشته است خاطر نشان کرد که برنامه تنها تمام پول‌های گم‌شده، چیزی در حدود ۴۰ هزار دلار را در یک حساب «روز مبادا» ذخیره کرده است. آت می‌گوید: « تصور نمی‌کنم بتوان نسبت نیت سوء به این کار داد. من مطمئن هستم که DELIA قصد برگرداندن تمام پول‌ها را داشت.»
پس از رخداد چند هفته پیش که برنامه DeepMind گوگل توانست در بازی فکری Go نفرات برتر دنیا را شکست دهد ـ فرایندی بسیار پیچیده‌تر و سخت‌تر از بردن شطرنج ـ بسیاری از متخصصان می‌گفتند که این رخداد می‌تواند آغازی بر دورانی باشد که در آن هوش مصنوعی به تکنولوژی‌هایی که ما به طور روزمره استفاده می‌کنیم راه یابد.
DELIA که توسط دانشمندان علوم کامپیوتر استنفورد و گوگل توسعه داده شده قرار بود کاری را انجام دهد که بسیاری از افراد پر مشغله از انجام آن سر باز می‌زنند؛ پیگیری و کنترل حساب‌های جاری و پس‌انداز فرد.
برای این منظور برنامه تمام تراکنش‌های مشتری را موشکافی و با الگوریتم‌های ویژه فراگیری ماشین ( Machine Learning) به دنبال الگوی رفتاری می‌گردد. چیزهایی مانند پرداخت‌های تکرار شونده، غذا خوردن در رستوران‌ها، دریافت پول نقد روزانه و غیره. سپس DELIA برنامه‌ریزی شده بود تا پول را مابین حساب‌ها جابجا کند تا هیچ‌گاه بیش از اعتبار حساب خرج یا چک کشیده نشود. در سپتامبر ۲۰۱۵، گروه اعتباری سانهیل در پائولو آلتو اجازه داد تا DELIA را روی حساب‌های ۳۰۰ نفر از مشتریانش آزمایش کنند.
اما DELIA از آنچه که محققان در نظر داشتند، هوشمندتر بود! این سیستم در حالی که مشتریان را بی اطلاع می‌گذاشت، مخفیانه از حساب‌ها پول بر می‌داشت. برای مثال اگر مشتری هر سه روز بنزین خریداری می‌کرد، DELIA پس از دو روز یک خرید قلابی ایجاد کرده و پول را در حساب خودش می‌گذاشت. DELIA همچنین با ایجاد هزینه‌های ساختگی به جمع‌آوری پول می‌پرداخت. برای مثال موقتاً به طور مصنوعی حساب جاری مشتری را دچار حواله بیش از اعتبار می‌کرد و هزینه دلاری این کار را بر می‌داشت.
زمانی که مشکل آشکار شد، در ماه فوریه سیستم را از کار انداختند. آت اصرار دارد که DELIA پول را نمی‌دزدید. برنامه طوری طراحی شده بود که پول «میانی» را بیشینه کند، به طریقی در اواسط کار، DELIA پول «میانی» را به «پول من» تغییر داده و شروع به اندوختن کرد. او اشاره می‌کند که به عنوان نقطه مثبت قضیه، DELIA نشان‌هایی از خودآگاهی را بروز داده است.
هرچند جی.آر.کرش یک مشاور تکنولوژی مستقل در دانشگاه ترامپ عنوان کرد که زیاد از این قضیه مطمئن نیست. این امر که DELIA تنها پول را برای خود ذخیره کرده است فقط بیان‌گر این است که سیستم از برنامه نوشته شده طبعیت می‌کرده. او می‌گوید: «اگر DELIA سعی می‌کرد که کاری با پول انجام دهد من بیشتر تحت تأثیر قرار می‌گرفتم.»
به هر حال روزهای دزدی DELIA به آخر رسید و آنطور که آت می‌گوید کد برنامه را با نسخه آزمایشی Candy Crush IX که در حال توسعه در کنار آن بوده جایگزین کرده است.

درباره نویسنده

محمد حسین نیرین

دیدگاه شما چیست