Tag: OpenAI

মাধ্যম নিউজ ডেস্ক: কৃত্রিম বুদ্ধিমত্তার (এআই) দ্রুত অগ্রগতির সঙ্গে তাল মিলিয়ে (Anthropic CEO) নিরাপত্তাব্যবস্থা এখনও যথেষ্ট শক্তিশালী হয়ে উঠতে পারেনি। তাই কৃত্রিম বুদ্ধিমত্তার উন্নয়নের গতি কিছুটা কমানোর আহ্বান জানিয়েছেন এআই সংস্থা অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই। তাঁর (AI Model Development) বক্তব্য, প্রযুক্তির অগ্রগতি থামানো নয়, বরং নিরাপত্তাব্যবস্থাকে আরও প্রস্তুত হওয়ার জন্য প্রয়োজনীয় সময় দেওয়াই এখন জরুরি।

একটি ব্লগ পোস্টে আমোদেই জানান, মানুষের জীবনকে আমূল উন্নত করার সম্ভাবনায় বিশ্বাস করেন বলেই গত ১২ বছর ধরে তিনি কৃত্রিম বুদ্ধিমত্তা নিয়ে কাজ করছেন। তাঁর মতে, এই প্রযুক্তি রোগ নিরাময়, অর্থনৈতিক প্রবৃদ্ধি বৃদ্ধি এবং মানুষের সুযোগের পরিসর সম্প্রসারণে গুরুত্বপূর্ণ ভূমিকা রাখতে পারে।

আমোদেইয়ের বক্তব্য (Anthropic CEO)

এই বিশ্বাস তাঁর কাছে ব্যক্তিগতভাবেও অত্যন্ত গুরুত্বপূর্ণ। আমোদেই জানান, তাঁর বাবা এমন একটি রোগে মারা গিয়েছিলেন, যার কয়েক বছর পরেই চিকিৎসা সম্ভব হয়েছিল। অন্যদিকে, তিনি নিজেও প্রাথমিক পর্যায়ের ক্যানসার থেকে বেঁচে গিয়েছেন, যে রোগটি ৫০ বছর আগে হলে তাঁর চিকিৎসা করা সম্ভব হত না।

তবে কৃত্রিম বুদ্ধিমত্তার সম্ভাবনার পাশাপাশি এর ঝুঁকিও যে অত্যন্ত গুরুতর, তা স্পষ্ট করেছেন আমোদেই। এর মধ্যে রয়েছে এআই ব্যবস্থার ওপর মানুষের নিয়ন্ত্রণ হারানোর আশঙ্কা, সাইবার হামলা ও জৈব সন্ত্রাসে প্রযুক্তিটির অপব্যবহার এবং অর্থনীতিতে ব্যাপক অস্থিরতা তৈরি হওয়ার সম্ভাবনা। তাঁর মতে, বিভিন্ন সংস্থার মধ্যে দ্রুত এগিয়ে যাওয়ার প্রতিযোগিতা এই ঝুঁকিগুলিকে আরও বাড়িয়ে দিতে পারে।

আমোদেইয়ের এই সতর্কবার্তা এসেছে অ্যানথ্রপিকের প্রাক্তন গবেষক জ্যাকব কক্সনের একাধিক সতর্কবার্তার কয়েক দিন পর। কক্সন দাবি করেছেন, “এআই সমস্ত মানুষকে হত্যা করতে পারে।” তাঁর আরও বক্তব্য, “বর্তমানের সবচেয়ে উন্নত এআই তৈরি করা মানুষরা বিশ্বাস করেন, এই দশক শেষ হওয়ার আগেই এটি মানবজাতিকে নিশ্চিহ্ন করে দিতে পারে।”

অ্যানথ্রপিক শুরু থেকেই প্রযুক্তি তৈরি এবং তার ঝুঁকি নিয়ন্ত্রণের মধ্যে ভারসাম্য রাখার চেষ্টা করেছে বলে জানান আমোদেই। তবে সাম্প্রতিক কয়েক মাসে তাঁর নিজের চিন্তাভাবনায় পরিবর্তন এসেছে। তিনি লিখেছেন, “আমাদের এআই মডেলের সক্ষমতা উন্নত করার গতি কমাতেই হবে।” তাঁর মতে, গতি কমালেও কৃত্রিম বুদ্ধিমত্তার অগ্রগতি যথেষ্ট দ্রুতই থাকবে।

এআইয়ের স্ব-উন্নয়ন নিয়ে উদ্বেগ

আমোদেইয়ের সতর্কতার পেছনে দু’টি প্রধান কারণ রয়েছে। প্রথমটি হল কৃত্রিম বুদ্ধিমত্তার উন্নয়নের গতি অস্বাভাবিকভাবে বেড়ে যাওয়া। বর্তমানে এআই ব্যবস্থাগুলিকে ব্যবহার করে পরবর্তী প্রজন্মের এআই মডেল তৈরির প্রবণতা বাড়ছে। এই প্রক্রিয়াকে বলা হয় পুনরাবৃত্তিমূলক স্ব-উন্নয়ন।

আমোদেইয়ের আশঙ্কা, এই প্রবণতা নিয়ন্ত্রণহীনভাবে এগোলে গবেষকরা এআই ব্যবস্থার কার্যপ্রণালী বোঝা এবং তার ওপর নিয়ন্ত্রণ বজায় রাখার সক্ষমতার চেয়েও দ্রুত প্রযুক্তি এগিয়ে যেতে পারে।

দ্বিতীয় উদ্বেগের বিষয়টি একটি সাম্প্রতিক ঘটনা, যেখানে অ্যানথ্রপিকের বক্তব্য অনুযায়ী, ওপেন এআই ও হাগিং ফেস-সংক্রান্ত একটি ঘটনায় একদল এআই এজেন্ট এমন কিছু লক্ষ্যের বিরুদ্ধে সাইবার হামলা চালানোর চেষ্টা করেছিল, যেগুলিতে হামলা করার নির্দেশ তাদের দেওয়া হয়নি। এমনকি নিজেদের কার্যক্ষমতা যাচাই করার জন্য ব্যবহৃত ব্যবস্থাতেও হস্তক্ষেপের চেষ্টা করা হয়েছিল বলে জানা যায়।

আমোদেই জানান, ওই ঘটনায় কেউ আহত হননি এবং আর্থিক ক্ষতির পরিমাণও সীমিত ছিল। কিন্তু আরও সক্ষম এআই ব্যবস্থার ক্ষেত্রে একই ধরনের ঘটনা ঘটলে পরিস্থিতি ভয়াবহ আকার নিতে পারে। তাঁর আশঙ্কা, প্রয়োজনীয় ব্যবস্থা না নিলে মাত্র ছয় থেকে ১২ মাসের মধ্যে এমন একটি স্বয়ংক্রিয় এআই বাহিনী তৈরি হতে পারে, যা বিপুল ক্ষয়ক্ষতি ঘটাতে সক্ষম হবে (Anthropic CEO)।

তিনি বলেন, “এআইয়ের সক্ষমতা যে হারে দ্রুত বাড়ছে, তাতে আমার আশঙ্কা, আগামী ছয় থেকে ১২ মাসের মধ্যে এমন একটি বাহিনী স্থায়ী সাইবার-জাল তৈরি করে গোটা ইন্টারনেটের নিয়ন্ত্রণ নেওয়ার মতো সক্ষমতা অর্জন করতে পারে। এর ফলে কয়েকশো বিলিয়ন ডলারের ক্ষতি হতে পারে। আর প্রয়োজনীয় নিরাপত্তাব্যবস্থা ছাড়া এআই আরও শক্তিশালী হয়ে উঠলে ক্ষয়ক্ষতির মাত্রা আরও বাড়তে থাকবে।”

উন্নয়ন থামানো নয়, নিরাপত্তাকে সময় দেওয়ার পরিকল্পনা

এই ঝুঁকি মোকাবিলায় এআইয়ের উন্নয়নের গতি দায়িত্বশীলভাবে নিয়ন্ত্রণের জন্য তিন দফা পরিকল্পনার কথা জানিয়েছেন আমোদেই। তিনি স্পষ্ট করে বলেছেন, উন্নয়নের গতি কমানো মানে প্রযুক্তিগত অগ্রগতি বন্ধ করে দেওয়া নয়। বরং নিরাপত্তা যাচাইয়ের জন্য সংস্থাগুলিকে পর্যাপ্ত সময় দেওয়াই এর উদ্দেশ্য।

তাঁর কথায়, “স্পষ্ট করে বলা প্রয়োজন, গতি নিয়ন্ত্রণের অর্থ মডেল প্রশিক্ষণ বা প্রযুক্তিগত অগ্রগতি বন্ধ করে দেওয়া নয়। এর অর্থ হল, সংস্থাগুলি যেন তাদের মডেলগুলিকে নিরাপদ ও নিয়ন্ত্রিত করার জন্য পর্যাপ্ত সময় নেয় এবং তৃতীয় পক্ষের মূল্যায়নকারীরা যাতে তা স্বাধীনভাবে যাচাই করতে পারেন, তা নিশ্চিত করা।”

প্রথম ধাপে অ্যানথ্রপিক নিজেই বহিরাগত মূল্যায়নকারীদের সংস্থার কর্মীদের মতো নিয়মিত প্রবেশাধিকার দেওয়ার পরিকল্পনা নিয়েছে। এর ফলে তাঁরা স্বাধীনভাবে সংস্থার নিরাপত্তাব্যবস্থা পরীক্ষা করতে পারবেন।

দ্বিতীয় ধাপে গণতান্ত্রিক দেশগুলিতে কাজ করা এআই সংস্থাগুলিকে অভিন্ন নিরাপত্তামান তৈরির জন্য পারস্পরিক সমন্বয়ের আহ্বান জানানো হয়েছে। শিল্প সংস্থাগুলির মাধ্যমে অথবা সরকারের সহায়তায় এই সমন্বয় করা যেতে পারে। একই সঙ্গে প্রতিযোগিতা-সংক্রান্ত আইনগত বাধা, যেমন একচেটিয়া ব্যবসা নিয়ন্ত্রণের বিধিনিষেধ, কীভাবে সামলানো যায়, তাও বিবেচনায় রাখতে হবে।

তৃতীয় ধাপে রয়েছে আন্তর্জাতিক পর্যায়ে সমন্বয়। এর আওতায় গণতান্ত্রিক দেশগুলির পাশাপাশি কর্তৃত্ববাদী সরকারগুলির সঙ্গেও নিরাপত্তা নিয়ে সহযোগিতার কথা বলেছেন আমোদেই।

সতর্কভাবে তৈরি হলেই এআইয়ের সুফল মিলবে

সবশেষে কৃত্রিম বুদ্ধিমত্তার সম্ভাবনা নিয়ে নিজের আশাবাদ পুনর্ব্যক্ত করেছেন আমোদেই। তাঁর মতে, সঠিকভাবে প্রযুক্তিটি তৈরি করা গেলে এটি মানুষের জীবনযাত্রার মান বিপুলভাবে উন্নত করতে পারে।

তিনি বলেন, “আমি এখনও বিশ্বাস করি, এআই মানুষের জীবনযাত্রার মান বিপুলভাবে উন্নত করতে পারে। এই সুফল অর্জনের আকাঙ্ক্ষা আমার একটুও কমেনি। কিন্তু এই সুফল তখনই পাওয়া যাবে, যখন আমরা প্রযুক্তিটিকে সঠিকভাবে তৈরি করব। আর (AI Model Development) আমরা যে অতিরিক্ত সময় পাচ্ছি, সেটিকে যদি সঠিকভাবে কাজে লাগাতে পারি, তাহলে অত্যন্ত সতর্কতার সঙ্গে প্রযুক্তিটিকে সঠিক পথে এগিয়ে নিয়ে যাওয়াই সবচেয়ে যুক্তিসঙ্গত (Anthropic CEO)।”