আপনার বিড়ালছানাকে বলুন আপনি ভিতরে কী ভাবছেন - ব্ল্যাক বক্স প্রভাব

সত্য যে উন্নত AI অ্যালগরিদমগুলি একটি ব্ল্যাক বক্সের মতো (1) যেটি কীভাবে ফলাফল এসেছে তা প্রকাশ না করেই কিছুকে চিন্তিত করে এবং অন্যকে বিরক্ত করে।

2015 সালে, নিউ ইয়র্কের মাউন্ট সিনাই হাসপাতালের একটি গবেষণা দলকে স্থানীয় রোগীদের একটি বিস্তৃত ডাটাবেস বিশ্লেষণ করতে এই পদ্ধতিটি ব্যবহার করতে বলা হয়েছিল (2)। এই বিশাল সংগ্রহে রয়েছে রোগীর তথ্য, পরীক্ষার ফলাফল, ডাক্তারের প্রেসক্রিপশন এবং আরও অনেক কিছু।

বিজ্ঞানীরা বিশ্লেষণাত্মক কর্মসূচীকে ডেভলপ করে বলে। এটি প্রায় 700 লোকের ডেটার উপর প্রশিক্ষণ নিয়েছে। মানব, এবং যখন নতুন রেজিস্ট্রিগুলিতে পরীক্ষা করা হয়, এটি রোগের পূর্বাভাস দেওয়ার ক্ষেত্রে অত্যন্ত কার্যকর বলে প্রমাণিত হয়েছে। মানব বিশেষজ্ঞদের সাহায্য ছাড়াই, তিনি হাসপাতালের নথিতে প্যাটার্ন আবিষ্কার করেছিলেন যা নির্দেশ করে যে কোন রোগী লিভার ক্যান্সারের মতো রোগের পথে রয়েছে। বিশেষজ্ঞদের মতে, সিস্টেমের প্রগনোস্টিক এবং ডায়াগনস্টিক দক্ষতা অন্যান্য পরিচিত পদ্ধতির তুলনায় অনেক বেশি ছিল।

2. রোগীর ডাটাবেসের উপর ভিত্তি করে চিকিৎসা কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা

একই সময়ে, গবেষকরা লক্ষ্য করেছেন যে এটি একটি রহস্যময় উপায়ে কাজ করে। এটা পরিণত, উদাহরণস্বরূপ, এটি জন্য আদর্শ যে মানসিক রোগের স্বীকৃতিযেমন সিজোফ্রেনিয়া, যা ডাক্তারদের জন্য অত্যন্ত কঠিন। এটি আশ্চর্যজনক ছিল, বিশেষত যেহেতু কারোরই ধারণা ছিল না যে শুধুমাত্র রোগীর মেডিকেল রেকর্ডের উপর ভিত্তি করে কীভাবে এআই সিস্টেম মানসিক অসুস্থতা দেখতে পারে। হ্যাঁ, বিশেষজ্ঞরা এই জাতীয় দক্ষ মেশিন ডায়াগনস্টিশিয়ানের সাহায্যে খুব খুশি হয়েছিল, তবে তারা আরও বেশি সন্তুষ্ট হবে যদি তারা বুঝতে পারে যে কীভাবে এআই তার সিদ্ধান্তে আসে।

কৃত্রিম নিউরনের স্তর

প্রথম থেকেই, অর্থাৎ কৃত্রিম বুদ্ধিমত্তার ধারণাটি জানার মুহূর্ত থেকে, এআই সম্পর্কে দুটি দৃষ্টিভঙ্গি ছিল। প্রথমটি পরামর্শ দিয়েছিল যে পরিচিত নীতি এবং মানবিক যুক্তি অনুসারে মেশিনগুলি তৈরি করা সবচেয়ে যুক্তিসঙ্গত হবে, তাদের অভ্যন্তরীণ কাজগুলিকে প্রত্যেকের কাছে স্বচ্ছ করে তোলে। অন্যরা বিশ্বাস করত যে যন্ত্রগুলি পর্যবেক্ষণ এবং বারবার পরীক্ষা-নিরীক্ষার মাধ্যমে শিখলে বুদ্ধিমত্তা আরও সহজে আবির্ভূত হবে।

পরেরটির অর্থ সাধারণ কম্পিউটার প্রোগ্রামিংকে বিপরীত করা। প্রোগ্রামার একটি সমস্যা সমাধানের জন্য কমান্ড লেখার পরিবর্তে, প্রোগ্রাম তৈরি করে নিজস্ব অ্যালগরিদম নমুনা ডেটা এবং পছন্দসই ফলাফলের উপর ভিত্তি করে। মেশিন লার্নিং পদ্ধতি যা পরবর্তীতে সবচেয়ে শক্তিশালী AI সিস্টেমে বিকশিত হয়েছে যা বর্তমানে পরিচিত, বাস্তবে, মেশিন নিজেই প্রোগ্রাম.

এই পদ্ধতিটি 60 এবং 70 এর দশকে এআই সিস্টেম গবেষণার মার্জিনে রয়ে গেছে। শুধুমাত্র পূর্ববর্তী দশকের শুরুতে, কিছু অগ্রণী পরিবর্তন ও উন্নতির পর, "গভীর" নিউরাল নেটওয়ার্ক স্বয়ংক্রিয় উপলব্ধির ক্ষমতার একটি আমূল উন্নতি প্রদর্শন করতে শুরু করে। 

ডিপ মেশিন লার্নিং কম্পিউটারকে অসাধারণ ক্ষমতার অধিকারী করেছে, যেমন একজন মানুষের মতোই প্রায় নির্ভুলভাবে উচ্চারিত শব্দ শনাক্ত করার ক্ষমতা। এটি সময়ের আগে প্রোগ্রাম করার জন্য খুব জটিল একটি দক্ষতা। মেশিনটি অবশ্যই তার নিজস্ব "প্রোগ্রাম" তৈরি করতে সক্ষম হবে বিশাল ডেটাসেটের প্রশিক্ষণ.

ডিপ লার্নিং কম্পিউটার ইমেজ রিকগনিশনকেও পরিবর্তন করেছে এবং মেশিন ট্রান্সলেশনের গুণমানকে ব্যাপকভাবে উন্নত করেছে। আজ, এটি ওষুধ, অর্থ, উত্পাদন এবং আরও অনেক কিছুতে সমস্ত ধরণের মূল সিদ্ধান্ত নিতে ব্যবহৃত হয়।

যাইহোক, এই সব সঙ্গে "ভিতরে" কীভাবে কাজ করে তা দেখতে আপনি কেবল একটি গভীর নিউরাল নেটওয়ার্কের ভিতরে দেখতে পারবেন না। নেটওয়ার্ক যুক্তি প্রক্রিয়াগুলি হাজার হাজার সিমুলেটেড নিউরনের আচরণে এমবেড করা হয়, কয়েক ডজন বা এমনকি শত শত জটিল আন্তঃসংযুক্ত স্তরগুলিতে সংগঠিত।.

প্রথম স্তরের প্রতিটি নিউরন একটি ইনপুট গ্রহণ করে, যেমন একটি ছবিতে একটি পিক্সেলের তীব্রতা এবং তারপর আউটপুট বের করার আগে গণনা করে। তারা একটি জটিল নেটওয়ার্কে পরবর্তী স্তরের নিউরনে প্রেরণ করা হয় - এবং তাই, চূড়ান্ত আউটপুট সংকেত পর্যন্ত। উপরন্তু, পৃথক নিউরন দ্বারা সঞ্চালিত গণনা সামঞ্জস্য হিসাবে পরিচিত একটি প্রক্রিয়া আছে যাতে প্রশিক্ষণ নেটওয়ার্ক পছন্দসই ফলাফল তৈরি করে।

কুকুরের ইমেজ শনাক্তকরণের সাথে সম্পর্কিত একটি উদ্ধৃত উদাহরণে, AI এর নিম্ন স্তরগুলি আকৃতি বা রঙের মতো সাধারণ বৈশিষ্ট্যগুলি বিশ্লেষণ করে। উচ্চতর ব্যক্তিরা পশম বা চোখের মতো আরও জটিল সমস্যা মোকাবেলা করে। শুধুমাত্র উপরের স্তরটি এটিকে একত্রিত করে, কুকুর হিসাবে তথ্যের সম্পূর্ণ সেটটিকে চিহ্নিত করে।

একই পদ্ধতির অন্যান্য ধরনের ইনপুট প্রয়োগ করা যেতে পারে যা মেশিনকে নিজেই শিখতে শক্তি দেয়: শব্দ যা বক্তৃতায় শব্দগুলি, অক্ষর এবং শব্দগুলি যা লিখিত পাঠ্যে বাক্য গঠন করে, বা একটি স্টিয়ারিং হুইল, উদাহরণস্বরূপ। যানবাহন চালানোর জন্য প্রয়োজনীয় আন্দোলন।

গাড়ি কিছুই এড়িয়ে যায় না।

এই ধরনের সিস্টেমে ঠিক কী ঘটে তা ব্যাখ্যা করার চেষ্টা করা হয়। 2015 সালে, Google-এর গবেষকরা একটি গভীর শিক্ষার ইমেজ রিকগনিশন অ্যালগরিদম পরিবর্তন করেছেন যাতে ফটোতে বস্তু দেখার পরিবর্তে এটি সেগুলি তৈরি বা সংশোধন করে। অ্যালগরিদমটি পিছনের দিকে চালিয়ে, তারা সেই বৈশিষ্ট্যগুলি আবিষ্কার করতে চেয়েছিল যা প্রোগ্রামটি একটি পাখি বা বিল্ডিংকে চিনতে, বলতে ব্যবহার করে।

এই পরীক্ষাগুলি, শিরোনাম হিসাবে সর্বজনীনভাবে পরিচিত, (3) অদ্ভুত, উদ্ভট প্রাণী, ল্যান্ডস্কেপ এবং চরিত্রগুলির আশ্চর্যজনক চিত্রণ তৈরি করেছিল। মেশিনের উপলব্ধির কিছু গোপনীয়তা প্রকাশ করে, যেমন নির্দিষ্ট প্যাটার্নগুলি বারবার ফিরে আসে এবং পুনরাবৃত্তি হয়, তারা এটাও দেখিয়েছিল যে কীভাবে গভীর মেশিন লার্নিং মানুষের উপলব্ধি থেকে আলাদা - উদাহরণস্বরূপ, এই অর্থে যে এটি প্রসারিত করে এবং আমরা উপেক্ষা করি এমন শিল্পকর্মের নকল করে। চিন্তা ছাড়া আমাদের উপলব্ধি প্রক্রিয়ায়. .

3. প্রকল্পে ছবি তৈরি করা হয়েছে

উপায় দ্বারা, অন্যদিকে, এই পরীক্ষাগুলো আমাদের নিজস্ব জ্ঞানীয় প্রক্রিয়ার রহস্য উন্মোচন করেছে। সম্ভবত এটি আমাদের উপলব্ধিতে রয়েছে যে বিভিন্ন বোধগম্য উপাদান রয়েছে যা আমাদের অবিলম্বে কিছু বুঝতে এবং উপেক্ষা করতে বাধ্য করে, যখন মেশিনটি ধৈর্য সহকারে "অগুরুত্বহীন" বস্তুতে তার পুনরাবৃত্তিগুলি পুনরাবৃত্তি করে।

মেশিনটিকে "বোঝার" প্রয়াসে অন্যান্য পরীক্ষা এবং অধ্যয়ন করা হয়েছিল। জেসন ইয়োসিনস্কি তিনি এমন একটি টুল তৈরি করেছেন যা মস্তিষ্কে আটকে থাকা প্রোবের মতো কাজ করে, যেকোনো কৃত্রিম নিউরনকে লক্ষ্য করে এবং এটিকে সবচেয়ে শক্তিশালীভাবে সক্রিয় করে এমন চিত্রের সন্ধান করে। শেষ পরীক্ষায়, নেটওয়ার্ক লাল হাতে "উঁকি দেওয়ার" ফলে বিমূর্ত চিত্রগুলি উপস্থিত হয়েছিল, যা সিস্টেমে সংঘটিত প্রক্রিয়াগুলিকে আরও রহস্যময় করে তুলেছিল।

যাইহোক, অনেক বিজ্ঞানীর জন্য, এই ধরনের একটি অধ্যয়ন একটি ভুল বোঝাবুঝি, কারণ, তাদের মতে, সিস্টেমটি বোঝার জন্য, জটিল সিদ্ধান্ত নেওয়ার উচ্চ ক্রমগুলির নিদর্শন এবং প্রক্রিয়াগুলিকে চিনতে, সমস্ত গণনামূলক মিথস্ক্রিয়া একটি গভীর নিউরাল নেটওয়ার্কের ভিতরে। এটি গাণিতিক ফাংশন এবং ভেরিয়েবলের একটি বিশাল গোলকধাঁধা। এই মুহুর্তে, এটি আমাদের জন্য বোধগম্য নয়।

কম্পিউটার চালু হবে না? কেন?

কেন উন্নত কৃত্রিম বুদ্ধিমত্তা সিস্টেমের সিদ্ধান্ত নেওয়ার প্রক্রিয়া বোঝা গুরুত্বপূর্ণ? কোন বন্দীদের প্যারোলে মুক্তি দেওয়া যেতে পারে, কাকে ঋণ দেওয়া যেতে পারে এবং কারা চাকরি পেতে পারে তা নির্ধারণের জন্য ইতিমধ্যেই গাণিতিক মডেল ব্যবহার করা হচ্ছে। যারা আগ্রহী তারা জানতে চান কেন এটি এবং অন্য সিদ্ধান্ত নেওয়া হয়নি, এর ভিত্তি এবং প্রক্রিয়া কী।

তিনি এপ্রিল 2017 এ এমআইটি প্রযুক্তি পর্যালোচনাতে স্বীকার করেছেন। টমি ইয়াক্কোলা, একজন এমআইটি অধ্যাপক মেশিন লার্নিং এর জন্য অ্যাপ্লিকেশন নিয়ে কাজ করছেন। -.

এমনকি একটি আইনি এবং নীতিগত অবস্থান রয়েছে যে AI সিস্টেমের সিদ্ধান্ত গ্রহণের প্রক্রিয়া যাচাই এবং বোঝার ক্ষমতা একটি মৌলিক মানবাধিকার।

2018 সাল থেকে, EU কোম্পানিগুলিকে তাদের গ্রাহকদের স্বয়ংক্রিয় সিস্টেমের দ্বারা নেওয়া সিদ্ধান্ত সম্পর্কে ব্যাখ্যা প্রদানের প্রয়োজনে কাজ করছে। এটি দেখা যাচ্ছে যে এটি কখনও কখনও এমন সিস্টেমগুলির সাথেও সম্ভব হয় না যা তুলনামূলকভাবে সহজ বলে মনে হয়, যেমন অ্যাপ এবং ওয়েবসাইটগুলি বিজ্ঞাপন দেখানো বা গানের সুপারিশ করতে গভীর বিজ্ঞান ব্যবহার করে৷

যে কম্পিউটারগুলি এই পরিষেবা প্রোগ্রামগুলি নিজেরাই চালায়, এবং তারা এমনভাবে করে যে আমরা বুঝতে পারি না... এমনকি প্রকৌশলী যারা এই অ্যাপ্লিকেশনগুলি তৈরি করে তারা সম্পূর্ণরূপে ব্যাখ্যা করতে পারে না কিভাবে এটি কাজ করে৷