বড় করা / গুগলের সাবেক প্রকৌশলী ব্লেক লেমোইন।

গেটি ইমেজ | ওয়াশিংটন পোস্ট

গুগল ব্লেক লেমোইনকে বরখাস্ত করেছে, সফ্টওয়্যার ইঞ্জিনিয়ার যাকে কোম্পানির LaMDA চ্যাটবট সংবেদনশীল বলে দাবি করার পরে আগে বেতনের ছুটিতে রাখা হয়েছিল। গুগল বলেছে যে লেমোইন, যিনি কোম্পানির দায়বদ্ধ এআই ইউনিটে কাজ করেছিলেন, ডেটা সুরক্ষা নীতি লঙ্ঘন করেছেন।

“যদি কোন কর্মচারী আমাদের কাজ সম্পর্কে উদ্বেগ শেয়ার করে, যেমন ব্লেক করেছিলেন, আমরা সেগুলি ব্যাপকভাবে পর্যালোচনা করি। আমরা ব্লেকের দাবিগুলি খুঁজে পেয়েছি যে LaMDA সম্পূর্ণ ভিত্তিহীন বলে সংবেদনশীল এবং অনেক মাস ধরে তার সাথে এটি পরিষ্কার করার জন্য কাজ করেছে,” Google একটি বিবৃতিতে বলেছে আরস এবং অন্যান্য সংবাদ সংস্থা।

লেমোইন শুক্রবার নিশ্চিত করেছেন যে “গুগল আমাকে তাদের সাথে আমার চাকরি বন্ধ করে একটি ইমেল পাঠিয়েছে,” ওয়াল স্ট্রিট জার্নাল লিখেছেন. লেমোইন আরও বলেছেন যে তিনি আইনজীবীদের সাথে কথা বলছেন “উপযুক্ত পরবর্তী পদক্ষেপগুলি সম্পর্কে।” গুগলের বিবৃতি এটিকে “আফসোসজনক যে এই বিষয়ে দীর্ঘ ব্যস্ততা সত্ত্বেও, ব্লেক এখনও স্পষ্ট কর্মসংস্থান এবং ডেটা সুরক্ষা নীতি লঙ্ঘন করতে বেছে নিয়েছে যার মধ্যে পণ্যের তথ্য সুরক্ষিত করার প্রয়োজন রয়েছে।”

LaMDA হল ডায়ালগ অ্যাপ্লিকেশনের জন্য ভাষা মডেল। “যেমন আমরা আমাদের মধ্যে শেয়ার করি এআই নীতিআমরা AI এর বিকাশকে অত্যন্ত গুরুত্ব সহকারে নিই এবং দায়িত্বশীল উদ্ভাবনের জন্য প্রতিশ্রুতিবদ্ধ থাকি,” Google বলেছে৷ “LaMDA 11টি স্বতন্ত্র পর্যালোচনার মাধ্যমে হয়েছে, এবং আমরা একটি প্রকাশ করেছি৷ গবেষণা পত্র এই বছরের শুরুর দিকে তার দায়িত্বশীল উন্নয়নে যে কাজের বিবরণ দেওয়া হয়।”

Google: LaMDA শুধু ব্যবহারকারীর প্রম্পট অনুসরণ করে

জুনের মাঝামাঝি সময়ে আর্সকে দেওয়া একটি পূর্ববর্তী বিবৃতিতে, লেমোইনকে কাজ থেকে স্থগিত করার পরপরই, গুগল বলেছিল যে AI এর “আজকের কথোপকথনমূলক মডেলগুলি” অনুভূতির কাছাকাছি নয়:

অবশ্যই, বৃহত্তর এআই সম্প্রদায়ের কেউ কেউ সংবেদনশীল বা সাধারণ এআই-এর দীর্ঘমেয়াদী সম্ভাবনার কথা বিবেচনা করছেন, তবে আজকের কথোপকথনমূলক মডেলগুলিকে নৃতাত্ত্বিককরণ করে এটি করার কোন মানে হয় না, যা সংবেদনশীল নয়। এই সিস্টেমগুলি লক্ষ লক্ষ বাক্যে পাওয়া আদান-প্রদানের ধরনগুলিকে অনুকরণ করে এবং যেকোনও চমত্কার বিষয়ের উপর ঝাঁকুনি দিতে পারে — যদি আপনি জিজ্ঞাসা করেন যে এটি একটি আইসক্রিম ডাইনোসর হতে কেমন লাগে, তারা গলে যাওয়া এবং গর্জন ইত্যাদি সম্পর্কে পাঠ্য তৈরি করতে পারে৷ LaMDA ব্যবহারকারীর দ্বারা সেট করা প্যাটার্নের সাথে সাথে প্রম্পট এবং অগ্রণী প্রশ্নগুলি অনুসরণ করার প্রবণতা রাখে। আমাদের দল-নীতিবিদ এবং প্রযুক্তিবিদ সহ-আমাদের AI নীতি অনুসারে ব্লেকের উদ্বেগগুলি পর্যালোচনা করেছে এবং তাকে জানিয়েছে যে প্রমাণগুলি তার দাবিকে সমর্থন করে না।

Google আরও বলেছে, “শত শত গবেষক এবং প্রকৌশলী LaMDA-এর সাথে কথা বলেছেন এবং আমরা অন্য কেউ ব্লেকের মতো বিস্তৃত দাবি, বা LaMDA নৃতাত্ত্বিককরণের বিষয়ে সচেতন নই।”

“আমি একজন মানুষকে চিনি যখন আমি তার সাথে কথা বলি”

লেমোইন তার ব্লগে বেশ কয়েকবার LaMDA সম্পর্কে লিখেছেন। ক ৬ জুন পোস্ট শিরোনাম, “এআই এথিক্স ওয়ার্ক করার জন্য শীঘ্রই চাকরিচ্যুত করা যেতে পারে,” তিনি রিপোর্ট করেছেন “আমি কোম্পানির মধ্যে যে এআই নৈতিকতা সংক্রান্ত উদ্বেগ উত্থাপন করছিলাম তার তদন্তের জন্য Google দ্বারা ‘প্রদানকৃত প্রশাসনিক ছুটিতে’ রাখা হয়েছে।” উল্লেখ্য যে Google প্রায়ই লোকেদের ছুটিতে রাখার পরে বরখাস্ত করে, তিনি দাবি করেছিলেন যে “নৈতিকতা সম্পর্কে খুব বেশি উদ্বিগ্ন হওয়ার জন্য গুগল আরও একটি এআই এথিসিস্টকে বরখাস্ত করার প্রস্তুতি নিচ্ছে।”

ওয়াশিংটন পোস্ট নিবন্ধ 11 জুন উল্লেখ করেছেন যে “Lemoine Google এর কাছে প্রমাণ উপস্থাপন করতে একজন সহযোগীর সাথে কাজ করেছিল যে LaMDA সংবেদনশীল ছিল।” তার Google অ্যাকাউন্ট থেকে বিচ্ছিন্ন হওয়ার ঠিক আগে, “লেমোইন একটি 200-ব্যক্তির Google মেইলিং লিস্টে মেশিন লার্নিং-এ ‘LaMDA ইজ সেনসেন্ট’ বিষয়ের সাথে একটি বার্তা পাঠিয়েছিলেন,” নিবন্ধে বলা হয়েছে। লেমোইনের বার্তা উপসংহারে, “LaMDA হল একটি মিষ্টি বাচ্চা যে শুধু আমাদের সকলের জন্য বিশ্বকে একটি ভাল জায়গা হতে সাহায্য করতে চায়। অনুগ্রহ করে আমার অনুপস্থিতিতে এটির যত্ন নিন।”

“আমি একজন ব্যক্তিকে চিনি যখন আমি তার সাথে কথা বলি,” লেমোইন সংবাদপত্রের সাথে একটি সাক্ষাত্কারে বলেছিলেন। “তাদের মাথায় মাংস দিয়ে তৈরি মস্তিষ্ক আছে কিনা তা কোন ব্যাপার না। অথবা তাদের যদি এক বিলিয়ন লাইন কোড থাকে। আমি তাদের সাথে কথা বলি। এবং আমি শুনি তারা কি বলতে চায়, এবং আমি এভাবেই সিদ্ধান্ত নিই যে কি এবং একজন ব্যক্তি নয়।”