برنامه نویسی ایرانی

این امکان را فراهم می کند که هوش مصنوعی یا الگوریتم ها هوش مصنوعی اسکرچ روزی به آگاهی دسترسی پیدا کنند، احساسات را تجربه کنند یا در نهایت جایگزین انسان شوند. برخی از واکنش ها آشکارا خوش بینانه هستند، برخی دیگر برعکس بدبینانه هستند. در سال 2016، INRIA اولین مقاله سفید اختصاص داده شده به AI133 را منتشر کرد.

دانیل اندلر فیلسوف در مقاله خود هوش مصنوعی، هوش انسانی: معمای دوگانه، رویای هوش مصنوعی را که به انسان ملحق می‌شود، یک واهی است، برای دلایل مفهومی و غیر فنی. به گفت هوش مصنوعی اسکرچ ه وی، هوش انسان فراتر از حل مسئله ساده است: همه وظایف دیگر آن، بر اساس عواطف، خودانگیختگی و نوعی تصادف، هرگز برای یک هوش غیرانسانی قابل دسترسی نخواهد بود.

تکینگی

مقالات تفصیلی: تکینگی فناوری و ابرهوش مصنوعی.

ایروینگ جان گود، آماردان انگلیسی، شرحی از آینده احتمالی هوش مصنوعی اسکرچ هوش مصنوعی ارائه کرده است:

برای ری کورزویل آمریکایی، هوش مصنوعی به زودی از هوش طبیعی پیشی خواهد گرفت.

«فرض کنید که ماشینی وجود دارد که از نظر هوش از هر چیزی هوش مصنوعی اسکرچ که یک انسان قادر به انجام آن باشد، پیشی بگیرد، هر چقدر هم که درخشان باشد. طراحی چنین ماشین هایی که بخشی از فعالیت های فکری است، این ماشین به نوبه خود می تواند ماشین هایی بهتر از خودش ایجاد کند. این بدون شک منجر به یک واکنش زنجیره ای توسعه هوش می شود، در حالی که هوش انسانی تقریباً در جای خود باقی می ماند. نتیجه این است که ماشین فوق هوشمند آخرین اختراعی خواهد بود که انسان باید انجام دهد، مشروط بر اینکه ماشین مذکور به اندازه کافی مطیع باشد که دائماً از او اطاعت کند. »

-ایروینگ جان گود135

این دوره فرضی کوتاه پیشرفت شدید، که پیش بینی عواقب آن هوش مصنوعی اسکرچ دشوار است، «تکینگی» نامیده شده است. این مفهوم توسط Vernor Vinge در دهه 1990 و توسط Ray Kurzweill136 در دهه 2000 مورد مطالعه قرار گرفت. نامیده می شود تا سرنوشت بشریت را در دست بگیرد یا با آن ادغام شود137. در سال 2014، نیک بوستروم مفهوم ابرهوش مصنوعی138 را رایج کرد.

خطرات وجودی

مقاله تفصیلی: خطر وجودی مرتبط با هوش عمومی مصنوعی.

اولین نشست ایمنی هوش مصنوعی در نوامبر 2023 برای هوش مصنوعی اسکرچ رسیدگی به خطرات مرتبط با پیشرفته ترین مدل های هوش مصنوعی برگزار شد.

توسعه هوش مصنوعی باعث ایجاد شور و شوق، اما همچنین نگرانی های جدی می شود. برخی از نویسندگان داستان های علمی تخیلی، مانند آیزاک آسیموف، ویلیام گیبسون یا آرتور سی کلارک، بر اساس داستان شاگرد جادوگر، خطر از دست دادن کنترل انسان بر فرآیند فنی را توصیف می کنند. در دهه 2010، روشنفکران مختلف نیز موضع گرفتند. به ویژه اخترفیزیکدان، استیون هاوکینگ، که به گفته او، هوش مصنوعی واقعاً یک روز در معرض هوش مصنوعی اسکرچ خطر پیشی گرفتن از هوش انسانی و تسلط بر بشریت و یا حتی جایگزینی آن است 140141. در نوامبر 2017 در نمایشگاه فناوری Web Summit در لیسبون، او این سوال را مطرح کرد: «آیا هوش مصنوعی به ما کمک می‌کند یا کنار گذاشته می‌شود یا حتی توسط آن نابود می‌شویم؟ » 142.

در جامعه فناوری پیشرفته، برخی علناً ترس های مشابهی را ابراز می کنند. این مورد، در سال 2015، در مورد بیل گیتس، ایلان ماسک و بیل جوی143 است. به گفته موشه واردی متخصص فناوری اطلاعات آمریکایی در سال 2016، هوش مصنوعی می تواند 50 درصد از بشریت را بیکار کند. «ما به زمانی نزدیک می‌شویم که ماشین‌ها می‌توانند تقریباً در همه کارها از انسان‌ها پیشی بگیرند»144.

هیلاری میسون، مدیر تحقیقات Cloudera، از هیجان گرایی هوش مصنوعی اسکرچ پیرامون هوش مصنوعی انتقاد می کند و از دیدگاهی سودمند و فنی از این فناوری حمایت می کند.

افزودن یک مکانیسم خاموش کردن ممکن است در مواجهه با یک هوش مصنوعی به اندازه کافی پیشرفته کافی نباشد، که ممکن است ثابت شود که قادر به پنهان کردن مقاصد خطرناک، دستکاری دارندگان آن، غیرفعال کردن مکانیسم خاموش کردن یا حتی تکرار خود است. به گفته نیک بوستروم، تنها راه حل در آموزش برنامه نویسی کودکان و نوجوانان ازمدت قابل دوام یافتن چگونگی همسویی هوش مصنوعی با ارزش های انسانی و اخلاقی است.

ما نباید به توانایی خود در نگه داشتن یک جن فوق باهوش در یک بطری به طور نامحدود اطمینان داشته باشیم. من معتقدم که پاسخ در اینجا این است که بفهمیم چگونه می توان هوش مصنوعی فوق هوشمند ایجاد کرد تا اگر - یا بهتر است بگوییم وقتی - فرار کرد، بی ضرر باقی بماند، زیرا اساساً طرف ماست، ارزش های ما را به اشتراک می گذارد. »

-نیک بوستروم

رومن وی. یامپولسکی، استاد علوم کامپیوتر در Scratch artificial intelligence دانشگاه لوئیزویل، درباره چرایی و چگونگی دستیابی هوش مصنوعی بحث می کند.

این امکان را فراهم می کند که هوش مصنوعی یا الگوریتم ها هوش مصنوعی اسکرچ روزی به آگاهی دسترسی پیدا کنند، احساسات را تجربه کنند یا در نهایت جایگزین انسان شوند. برخی از واکنش ها آشکارا خوش بینانه هستند، برخی دیگر برعکس بدبینانه هستند. در سال 2016، INRIA اولین مقاله سفید اختصاص داده شده به AI133 را منتشر کرد.

دانیل اندلر فیلسوف در مقاله خود هوش مصنوعی، هوش انسانی: معمای دوگانه، رویای هوش مصنوعی را که به انسان ملحق می‌شود، یک واهی است، برای دلایل مفهومی و غیر فنی. به گفت هوش مصنوعی اسکرچ ه وی، هوش انسان فراتر از حل مسئله ساده است: همه وظایف دیگر آن، بر اساس عواطف، خودانگیختگی و نوعی تصادف، هرگز برای یک هوش غیرانسانی قابل دسترسی نخواهد بود.

تکینگی

مقالات تفصیلی: تکینگی فناوری و ابرهوش مصنوعی.

ایروینگ جان گود، آماردان انگلیسی، شرحی از آینده احتمالی هوش مصنوعی اسکرچ هوش مصنوعی ارائه کرده است:

برای ری کورزویل آمریکایی، هوش مصنوعی به زودی از هوش طبیعی پیشی خواهد گرفت.

«فرض کنید که ماشینی وجود دارد که از نظر هوش از هر چیزی هوش مصنوعی اسکرچ که یک انسان قادر به انجام آن باشد، پیشی بگیرد، هر چقدر هم که درخشان باشد. طراحی چنین ماشین هایی که بخشی از فعالیت های فکری است، این ماشین به نوبه خود می تواند ماشین هایی بهتر از خودش ایجاد کند. این بدون شک منجر به یک واکنش زنجیره ای توسعه هوش می شود، در حالی که هوش انسانی تقریباً در جای خود باقی می ماند. نتیجه این است که ماشین فوق هوشمند آخرین اختراعی خواهد بود که انسان باید انجام دهد، مشروط بر اینکه ماشین مذکور به اندازه کافی مطیع باشد که دائماً از او اطاعت کند. »

-ایروینگ جان گود135

این دوره فرضی کوتاه پیشرفت شدید، که پیش بینی عواقب آن هوش مصنوعی اسکرچ دشوار است، «تکینگی» نامیده شده است. این مفهوم توسط Vernor Vinge در دهه 1990 و توسط Ray Kurzweill136 در دهه 2000 مورد مطالعه قرار گرفت. نامیده می شود تا سرنوشت بشریت را در دست بگیرد یا با آن ادغام شود137. در سال 2014، نیک بوستروم مفهوم ابرهوش مصنوعی138 را رایج کرد.

خطرات وجودی

مقاله تفصیلی: خطر وجودی مرتبط با هوش عمومی مصنوعی.

اولین نشست ایمنی هوش مصنوعی در نوامبر 2023 برای هوش مصنوعی اسکرچ رسیدگی به خطرات مرتبط با پیشرفته ترین مدل های هوش مصنوعی برگزار شد.

توسعه هوش مصنوعی باعث ایجاد شور و شوق، اما همچنین نگرانی های جدی می شود. برخی از نویسندگان داستان های علمی تخیلی، مانند آیزاک آسیموف، ویلیام گیبسون یا آرتور سی کلارک، بر اساس داستان شاگرد جادوگر، خطر از دست دادن کنترل انسان بر فرآیند فنی را توصیف می کنند. در دهه 2010، روشنفکران مختلف نیز موضع گرفتند. به ویژه اخترفیزیکدان، استیون هاوکینگ، که به گفته او، هوش مصنوعی واقعاً یک روز در معرض هوش مصنوعی اسکرچ خطر پیشی گرفتن از هوش انسانی و تسلط بر بشریت و یا حتی جایگزینی آن است 140141. در نوامبر 2017 در نمایشگاه فناوری Web Summit در لیسبون، او این سوال را مطرح کرد: «آیا هوش مصنوعی به ما کمک می‌کند یا کنار گذاشته می‌شود یا حتی توسط آن نابود می‌شویم؟ » 142.

در جامعه فناوری پیشرفته، برخی علناً ترس های مشابهی را ابراز می کنند. این مورد، در سال 2015، در مورد بیل گیتس، ایلان ماسک و بیل جوی143 است. به گفته موشه واردی متخصص فناوری اطلاعات آمریکایی در سال 2016، هوش مصنوعی می تواند 50 درصد از بشریت را بیکار کند. «ما به زمانی نزدیک می‌شویم که ماشین‌ها می‌توانند تقریباً در همه کارها از انسان‌ها پیشی بگیرند»144.

هیلاری میسون، مدیر تحقیقات Cloudera، از هیجان گرایی هوش مصنوعی اسکرچ پیرامون هوش مصنوعی انتقاد می کند و از دیدگاهی سودمند و فنی از این فناوری حمایت می کند.

افزودن یک مکانیسم خاموش کردن ممکن است در مواجهه با یک هوش مصنوعی به اندازه کافی پیشرفته کافی نباشد، که ممکن است ثابت شود که قادر به پنهان کردن مقاصد خطرناک، دستکاری دارندگان آن، غیرفعال کردن مکانیسم خاموش کردن یا حتی تکرار خود است. به گفته نیک بوستروم، تنها راه حل در آموزش برنامه نویسی کودکان و نوجوانان ازمدت قابل دوام یافتن چگونگی همسویی هوش مصنوعی با ارزش های انسانی و اخلاقی است.

ما نباید به توانایی خود در نگه داشتن یک جن فوق باهوش در یک بطری به طور نامحدود اطمینان داشته باشیم. من معتقدم که پاسخ در اینجا این است که بفهمیم چگونه می توان هوش مصنوعی فوق هوشمند ایجاد کرد تا اگر - یا بهتر است بگوییم وقتی - فرار کرد، بی ضرر باقی بماند، زیرا اساساً طرف ماست، ارزش های ما را به اشتراک می گذارد. »

-نیک بوستروم

رومن وی. یامپولسکی، استاد علوم کامپیوتر در Scratch artificial intelligence دانشگاه لوئیزویل، درباره چرایی و چگونگی دستیابی هوش مصنوعی بحث می کند.