এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
বিপক্ষীয় আক্রমণ
একটি এআই মডেলকে বিভ্রান্ত করতে এবং শ্রেণীবিভাগের ত্রুটি বা অপ্রত্যাশিত আচরণ সৃষ্টি করতে ইচ্ছাকৃতভাবে ইনপুট ডেটা ম্যানিপুলেশন। এই আক্রমণগুলি মানুষের কাছে অলক্ষিত কিন্তু অ্যালগরিদম দ্বারা সনাক্তযোগ্য ব্যাঘাত প্রবর্তন করে নিউরাল নেটওয়ার্কের গাণিতিক দুর্বলতাগুলি কাজে লাগায়।
নৈতিক দৃঢ়তা
ম্যানিপুলেশনের প্রচেষ্টা বা অপ্রত্যাশিত অবস্থার মুখে একটি এআই সিস্টেমের তার নৈতিক নীতি এবং ন্যায্য আচরণ বজায় রাখার ক্ষমতা। এটি স্ট্রেস বা অ্যালগরিদমিক আক্রমণের অধীনেও সিস্টেমের নৈতিক মূল্যবোধের সংরক্ষণ নিশ্চিত করে।
বিপক্ষীয় প্রতিরক্ষা
বিপক্ষীয় আক্রমণের বিরুদ্ধে এআই মডেলগুলিকে শক্তিশালী করার লক্ষ্যে কৌশলগুলির সমষ্টি, যার মধ্যে রয়েছে বিপক্ষীয় প্রশিক্ষণ, অস্বাভাবিকতা সনাক্তকরণ এবং ইনপুট শুদ্ধিকরণ। এই পদ্ধতিগুলি অধীনতা প্রচেষ্টার মুখে সিস্টেমের কার্যকরী এবং নৈতিক অখণ্ডতা বজায় রাখার লক্ষ্যে।
ডেটা বিষ প্রয়োগ
ভবিষ্যতের মডেল কর্মক্ষমতা ক্ষতিগ্রস্ত করতে এবং পদ্ধতিগত পক্ষপাত প্রবর্তন করতে প্রশিক্ষণ সেটে দূষিত ডেটার দূষিত সন্নিবেশ। এই কৌশলটি ইচ্ছাকৃতভাবে এআই সিস্টেমের নৈতিক এবং সিদ্ধান্ত গ্রহণ ক্ষমতা হ্রাস করতে পারে।
মডেল এড়ানো
একটি আক্রমণ কৌশল যেখানে বিশেষভাবে তৈরি ইনপুটগুলি একটি এআই মডেলের সনাক্তকরণ বা শ্রেণীবিভাগ প্রক্রিয়া এড়ানো সম্ভব করে। এড়ানো প্রতিষ্ঠিত নৈতিক নিয়ম এবং সীমাবদ্ধতা লঙ্ঘন করার অনুমতি দিয়ে নৈতিক দৃঢ়তাকে সরাসরি হুমকি দেয়।
নৈতিক ব্যাঘাত
একটি এআই সিস্টেমের নৈতিক সিদ্ধান্ত গ্রহণ প্রক্রিয়া বিশেষভাবে আপস করার লক্ষ্যে ইনপুট বা প্যারামিটারের সূক্ষ্ম পরিবর্তন। এই আক্রমণগুলি প্রোগ্রাম করা মূল্যবোধের সাথে অসামঞ্জস্যপূর্ণ আচরণ প্ররোচিত করার জন্য নৈতিক বিচারের স্তরগুলিকে লক্ষ্য করে।
নৈতিক স্থিতিশীলতা
ইনপুট বা পরিবেশগত অবস্থার ছোটখাটো পরিবর্তনের মুখে একটি এআই সিস্টেমের নৈতিক সিদ্ধান্তের সামঞ্জস্যের পরিমাপ। স্থিতিশীলতা নিশ্চিত করে যে প্রাসঙ্গিক ওঠানামা সত্ত্বেও নৈতিক রায়গুলি স্থির এবং অনুমানযোগ্য থাকে।
অ্যালগরিদমিক সহনশীলতা
আক্রমণ বা উল্লেখযোগ্য ব্যাঘাতের সম্মুখীন হওয়ার পরে একটি এআই সিস্টেমের তার নৈতিক কর্মক্ষমতা পুনরুদ্ধার এবং বজায় রাখার ক্ষমতা। সহনশীলতায় দীর্ঘমেয়াদে নৈতিক অখণ্ডতা সংরক্ষণের জন্য স্ব-সংশোধন এবং অভিযোজন প্রক্রিয়া অন্তর্ভুক্ত রয়েছে।
নৈতিক নিরাপত্তা
এআই সাইবার নিরাপত্তার একটি ক্ষেত্র যা নৈতিক সিদ্ধান্ত গ্রহণ প্রক্রিয়াকে ম্যানিপুলেশন এবং আপস থেকে রক্ষা করার জন্য বিশেষায়িত। এটি নৈতিক অখণ্ডতা নিশ্চিত করতে ক্রিপ্টোগ্রাফিক কৌশল, আনুষ্ঠানিক বৈধতা এবং আচরণগত পর্যবেক্ষণকে একত্রিত করে।
নৈতিক দুর্বলতা
একটি এআই সিস্টেমের স্থাপত্য বা বাস্তবায়নে এমন দুর্বলতা যা তার মৌলিক নৈতিক নীতিমালা লঙ্ঘন করতে ব্যবহার করা যেতে পারে। এই দুর্বলতাগুলি সিস্টেমের সিদ্ধান্ত গ্রহণ, বৈধতা বা নৈতিক নিয়ন্ত্রণ স্তরে থাকতে পারে।
সহনশীলতা পরীক্ষা
চরম বা শত্রুতাপূর্ণ পরিস্থিতিতে একটি এআই সিস্টেমের নৈতিক আচরণ বজায় রাখার ক্ষমতার পদ্ধতিগত মূল্যায়ন। এই পরীক্ষাগুলি নৈতিক দুর্বলতা চিহ্নিত ও সংশোধন করতে বিভিন্ন ধরনের আক্রমণ এবং বিঘ্নের অনুকরণ করে।
নৈতিক বৈধতা
একটি আনুষ্ঠানিক যাচাই প্রক্রিয়া যা নিশ্চিত করে যে একটি এআই সিস্টেম শত্রুতাপূর্ণ সীমাবদ্ধতার মধ্যেও তার নৈতিক সীমাবদ্ধতাগুলি ধারাবাহিকভাবে মেনে চলে। নৈতিক সম্মতি নিশ্চিত করতে বৈধতা পরিসংখ্যানগত পরীক্ষা, আনুষ্ঠানিক যাচাই এবং আচরণগত নিরীক্ষাকে একত্রিত করে।
নৈতিক প্রতিকার
একটি এআই সিস্টেমের নৈতিক নীতিমালা আপস করার প্রচেষ্টা প্রতিরোধ বা নিরপেক্ষ করার জন্য ডিজাইনকৃত সক্রিয় বা প্রতিক্রিয়াশীল প্রক্রিয়া। এই প্রতিকারগুলিতে অনিয়ম সনাক্তকরণ, সিদ্ধান্ত বিচ্ছিন্নতা এবং নৈতিক পুনরুদ্ধার অন্তর্ভুক্ত থাকে।
প্রতিকূল অনুমান
একটি প্রক্রিয়া যার মাধ্যমে একজন আক্রমণকারী সংবেদনশীল তথ্য অনুমান করতে বা নৈতিকতাবিরোধী সিদ্ধান্ত বাধ্য করতে একটি এআই মডেলের দুর্বলতাগুলি ব্যবহার করে। প্রতিকূল অনুমান সরাসরি সিস্টেমের গোপনীয়তা এবং নৈতিক অখণ্ডতাকে হুমকির মুখে ফেলে।
বিতরণগত সহনশীলতা
ইনপুট ডেটা বা অপারেশনাল অবস্থার বিতরণে পরিবর্তনের মুখে একটি এআই সিস্টেমের নৈতিক কর্মক্ষমতা বজায় রাখার ক্ষমতা। এই সহনশীলতা বিতরণগত পরিবর্তন সত্ত্বেও নৈতিক সিদ্ধান্তের স্থিতিশীলতা নিশ্চিত করে।
নিষ্কাশন আক্রমণ
একটি এআই মডেলের আচরণ, এর পক্ষপাত এবং নৈতিক দুর্বলতাগুলি সহ, পদ্ধতিগতভাবে জিজ্ঞাসা করে পুনরুত্পাদন করার লক্ষ্যে একটি কৌশল। এই আক্রমণগুলি মূল সিস্টেমের নৈতিক দুর্বলতাগুলি প্রকাশ ও ব্যবহার করতে পারে।
নৈতিক সার্টিফিকেশন
একটি আনুষ্ঠানিক প্রক্রিয়া যা নিশ্চিত করে যে একটি এআই সিস্টেম সংজ্ঞায়িত শর্তাবলীর মধ্যে, আক্রমণের মুখোমুখি হয়ে তার নৈতিক গ্যারান্টি বজায় রাখে। নৈতিক সার্টিফিকেশন স্বীকৃত মানদণ্ড অনুযায়ী নৈতিক সিদ্ধান্ত গ্রহণের প্রক্রিয়ার দৃঢ়তা যাচাই করে।
প্রতিকূল প্রশিক্ষণ
একটি প্রশিক্ষণ পদ্ধতি যেখানে মডেলটি একই সাথে আক্রমণ প্রতিরোধ করতে এবং তার নৈতিক নীতিগুলো বজায় রাখতে শেখে। এই পদ্ধতিটি শেখার সময় সিস্টেমকে প্রতিকূল পরিস্থিতির মুখোমুখি করে এর দৃঢ়তা বৃদ্ধি করে।