X
تبلیغات
پیکوفایل
رایتل
دوشنبه 17 اردیبهشت‌ماه سال 1386

ابزار هوشمند، شالوده تمدنی نوین

فهرست مطالب:
1- ابزار و ابزارسازی در تاریخ
2- ابزار هوشمند قدیم
3- شعور ماشینی: آلترناتیو جدیدی در خدمت بشر
4- دورنمای آینده


«چه اتفاقی می‌افتاد اگر کسی یک بیلیون سال پیش، از مریخ برای قضاوت درباره زندگی زمینی آمده بود و به تک‌یاخته‌هائی که حتی هنوز خزیدن را نیاموخته بودند می‌نگریست؟
همین گونه نیز، ما نمی‌توانیم آنچه ماشین‌ها می‌توانند در آینده بکنند را، با آنچه امروز قابل رؤیت است، به تصور آوریم.»

کتاب جامعه فکر Society of Mind، ماروین مینسکی Marvin Minsky، صفحه 30

پیشگفتار 2004
متن اولیه این رساله Intelligent Tools را در شماره پائیز 1985 ژورنال علمی هوش مصنوعیAI Magazine، نشریه انجمن آمریکائی هوش مصنوعیAmerican Association for Artificial Intelligence-AAAI، منتشر کردم. همچنین متن اولیه فارسی این رساله، سیزده سال بعد، اول‌بار در تاریخ اول ژانویه 1998، در اولین شماره مجله آینده‌نگر بنیاد آینده‌نگری ایران به چاپ رسید.
اگر من این رساله را امروز می‌نوشتم، بیشتر آنرا به همین‌گونه که هست می‌نوشتم. البته قسمتی از بخش آخر درباره رباط‌ها بعنوان نوع جدید را، آنگونه که در مقاله دیگری درباره این مبحث نوشته‌ام، بسط می‌دادم (مراجعه کنید به مقاله 2003 من، تحت عنوان تأثیر ابزار هوشمند بر روی زندگی بشر) یعنی این حقیقت که بوجود آمدن نوع جدید به معنی ایستائی پیشرفت بشر نیست. البته موضوع این رساله بحث درباره ابزار هوشمند تا آنجائی است که بعنوان ابزار عمل می‌کنند.
این رساله، از زمان انتشار آن در 20 سال پیش تا کنون، در نوشته‌های مختلفی مورد توجه قرار گرفته است، از جمله در فهرست منابع Bibliography تحقیقاتی تحریر شده توسط کلودیا گوتیرز Claudio Gutiérrez و همچنین در کتاب کورت فون مییر Kurt von Meier..


وقتی که من این رساله را منتشر کردم، نامه‌ای از دانیال بل دریافت کردم که وی نظرات من درباره موضوع تکامل (انتروپولوژی) را جالب یافته بود، اما با استفاده من از اصطلاح «هوش intelligence» موافق نبود و اصطلاح «استنتاج inference» را ترجیح می‌داد، که بسیاری از نویسندگان اروپائی برای توان‌های هوشی ابزارها بکار می‌برند. دانیال بل خاطر نشان می‌کرد که در این ابزارها، برخی قوانین استنتاج برنامه‌نویسی شده، که به آنها توان انجام عملکردهای فکری را می‌دهد، اما بعقیده وی آنها در خود، از «هوش» و ذکاوت برخوردار نیستند.
طنزآلود است که من از زمان انتشار این رساله، موضوعات تحقیقی‌ام تغییر کرده و من تز تکاملی (انتروپولوژیک) این رساله و موضوعات فلسفه ذهن این رساله که در ارتباط با هوش مصنوعی طرح شده‌اند را دنبال نکرده‌ام.
تز انتروپولوژیک من که تأکید بر موضوع مبنای تکنولوژیک رفتار با موجودات متفکر به مثابه ابزار است، در میان نکات دیگر، به این موضوع اشاره دارد که چرا به خاطر عدم از بین‌رفتن مبنای تکنولوژیک برده‌داری، ممکن شد که شیوه تولید متروک شده برده‌داری، در آمریکا دوباره زنده شود، یعنی حتی قرن‌ها بعد از حذف برده‌داری، بعنوان یک سیستم اجتماعی، سیاسی، اقتصادی و فرهنگی در جهان.
همچنین تا آنجا که به فلسفه ذهن مربوط می‌شود، در سوی دیگر طیف تأکید شده توسط دانیال بل، در سالهای اخیر ماروین مینسکی Marvin Minsky، در کتاب جامعه فکر Society of Mind، توضیحات نوع دیگری از هوش را مورد تفحص قرار داده است. همانطور که یادآور شدم، از زمانی که من این رساله را نوشته‌ام، مبحث فلسفه ذهن Philosophy of Mind را بویژه در ارتباط با هوش مصنوعی Artificial Intelligence، دنبال نکرده‌ام.


برخی مؤلفین نظیر آرون اسلومن Aaron Sloman، تحقیقات مبسوط عالی‌ای را در سال‌های اخیر در این زمینه منتشر کرده‌اند که نظریه کانت، مبنی بر تئوری حک شده بودن ادراکات حسی بشر را تأیید می‌کنند. همچنین ری کورزویل Ray Kurzweil، در 20 سال گذشته کارهای ارزنده‌ای در این زمینه ارائه داده است.
مثلاً به نظر ری کورزویل، در تحقیقات جدیدش، ابدیت برای انسان تا 20 سال دیگر قابل دسترسی است و انسان بعد از هزاران سال وحشت از مرگ، با توسعه نانوتکنولوژی، فناناپذیر خواهد شد. این‌چنین تحولی، باعث رشد جمعیت بشر خواهد شد، آنگونه که در چند دهه اخیر، جمعیت افراد مسن، در جوامع پیشرفته افزایش چشم‌گیری داشته است.
در نقطه مقابل، به نظر من، کاهش استفاده از انسان به مثابه ابزار هوشمند نیز، باعث کاهش سرعت رشد تولید مثل انسان می‌شود، همانگونه که با جایگزینی اتومبیل به جای اسب، به مثابه ابزار حمل و نقل، سرعت رشد جمعیت اسب در نیم قرن گذشته در جهان کند شده است. البته این بحث من فقط در ارتباط با انسان به مثابه ابزار است و ابعاد دیگر نیاز به انسان در تولید دانش و هنر و عرصه‌های دیگر زندگی بشر، مد نظرم نیست.
لازم به تذکر است، که من این مباحث را در این نوشته مورد بررسی قرار نداده‌ام و در مقاله 2003 تأثیر ابزار هوشمند بر روی زندگی بشر، مختصرأ به موضوع ابزار هوشمند به مثابه نوع، پرداخته‌ام و نیز در نوشتار «آیا نانوتکنولوژی واقعی است؟» تحول نانوتکنولوژی را بحث کرده‌ام.
دیگر آنکه گرچه در این نوشته طرح کرده‌ام که چرا عدالت اجتماعی موضوع مرکزی در تمدن جدید خواهد بود، درباره مبحث عدالت اجتماعی، در نوشته عدالت اجتماعی و انقلاب کامپیوتری و مفصل‌تر در رساله یک تئوری ارزش ویژه، در سال 1989 و نیز به تازگی در نوشتار ثروت و عدالت در ایران فردا، به بررسی پرداخته‌ام.
من امیدوارم که خوانندگان، این رساله را برای طرح سؤالات جالب، ارزشمند بیابند.
سام قندچی، ناشر و سردبیر
23 آبان 1383

سپاسگزاری
بدینوسیله از همه کسانیکه با اظهار نظر درباره قسمت‌های مختلف این رساله، به غنای کار من افزودند، تشکر می‌کنم. بویژه آقای «ویلیام کلنسی William Clancey»، دانشمند برجسته شعور ماشینی، با تحریر یادداشت‌هائی درباره متن اولیه که به تدقیق بیشتر موضوعات یاری رساند و آقای «رابرت انگلمورRobert Engelmore» سردبیر مجله «ای. آی. مگزین AI Magazine» که با طرح ملاحظات دقیق و با اساس خود، کمک مؤثری به ویرایش نهائی رساله کرد. معهذا تذکر این نکته ضروری است که تنها خود من مسئولیت این نسخه نهائی را به عهده دارم. با اذعان به خصلت جدلی رساله، امیدوارم که کوشش‌های من، حداقل باعث گشوده شدن باب بحث و تبادل نظر درباره موضوعات مطرح شده، در میان خوانندگان عزیز شود.

خلاصه مقاله
مقاله زیر با شرح مختصرى از تکامل ابزار و دانش در تاریخ بشریت آغاز شده و با این اظهار عقیده که دو پدیده مذکور فقط در ابزار هوشمند همزیستى نموده‌اند، ادامه می‌یابد. سپس با یادآورى مزایاى ابزار هوشمند قدیم در عرصه تولید، نشان داده می‌شود که چگونه مشکلات اجتماعى و بیولوژیک ناشى از ذات حیوانى (یا انسانى) این ابزارها، موانعى جدى بر سر راه تکامل آنها ایجاد می‌کرده است، بعلاوه اشاره می‌شود که عدم قابلیت بشر در تولید ابزار هوشمندى که بتواند از خود انسان (در ظرفیت ابزار) پیشى بگیرد، باعث تداوم مبناى تکنولوژیک برده‌دارى در طى تاریخ بوده است. بعدأ با ارزیابى دستاوردهاى کنونى تکنولوژى کامپیوتر در ارتباط با تولید ابزار هوشمندی چنین استدلال می‌شود که با *تولید* ابزارهاى هوشمند جدید، فائق آمدن بر *محدودیت‌هاى* اجتماعى و بیولوژیک ابزار هوشمند امکان‌پذیر شده است. در نتیجه به موازات *پیشى جستن* این ابزارها از انسان (بعنوان ابزار هوشمند)، هرگونه اجبار تکنیکى براى بکارگیرى انسان به مثابه ابزار تولیدى از بین خواهد رفت. به عبارت دیگر، دورنماى این تحول، محوشدن *مبناى تکنولوژیک* انقیاد انسان بوسیله انسان است. نابودى این مبناى تکنولوژیک ممکن است به تحقق شعور بالاتر انسان‌ها، ثروت فراوان‌تر و آزادى اجتماعى - سیاسی یشتر در جامعه آینده انجامیده و موجبات آغاز تمدن عالی‌ترى در جهان را فراهم آورد.

1- ابزار و ابزارسازی در تاریخ
هر چند ارزیابى انسان‌شناسان از نقش ابزار و ابزارسازى در تکامل بوزینگان متفاوت است، همه آنها در این نکته متفق‌القولند که ابزارسازى مهمترین تفاوت اجداد ما با میمون‌هاى دیگر بوده است. انسان با ساختن ابزار قادر شد که پیگیرى اهداف خود در زندگى را با استفاده از وسائلى *مجزا* از بدن خود ممکن نماید. ابزارها در مقایسه با اعضای بدن (که براى اهدافی مشابه قابل استفاده‌اند) این خاصیت را داشتند که جدا از مرگ و زندگى هر عضو منفرد نوع بشر، قابل تکامل بوده و در نتیجه ثمره فعالیت‌هاى تولیدى نسل‌هاى گذشته را به نسل‌هاى آینده منتقل می‌کردند.
حیوانات دیگر نیز گاهى از اشیاء طبیعى بعنوان ابزار استفاده می‌کنند، ولیکن ابزارهاى آنها رشد چندانى در ورای شکل یا حالت منشأ طبیعى‌شان نمی‌کند. درواقع، به نسبت جدائى انسان از عالم حیوانات، ابزارهاى ساخت انسان، هر چه بیشتر از اشیاء طبیعى قابل تمیز شده‌اند. دلیل این تمایز نیز در پیش وضعیت نوع بشر، قبل از شروع وى به ابزارسازى نهفته است. قابلیت‌هاى ذهنى و لسانى اجداد ما باندازه کافى بلوغ یافته بودند که تکیه‌گاه تولد شعور و زبان بشرى شوند. مضافاً اینکه هم ابزارسازى و هم ارتباطات، فعالیت‌هاى اجتماعى بودند و پیشرفت یکى، متقابلأ توسعه دیگری را به همراه داشت. بنابراین، زندگى اجتماعى بشر باعث شد که اشکال بالاتر ارتباطات بین انسان‌ها، یعنى زبان، همپاى ابزارسازى تکامل یابد.
با رشد زبان، دیگر نگهدارى و انتقال دانش انسان‌ها، جدا و مستقل از زندگى و مرگ هر عضو منفرد نوع بشر، امکان‌پذیر شد. در نتیجه با توسعه زبان، جریان یافتن دانش از نسلى به نسل دیگر، از طریقى غیر از توارث ژنى میسر شد. اختراع نوشتن انتقال زبانی دانش را بیشتر تقویت کرد. زبان شفاهى، دانش را از طریق حافظه، عادت، تخصص و جذب فرهنگى، منتقل می‌کرد، در صورتیکه زبان کتبی، دانش را در جزئیات و دقت بیشتری قابل انتقال کرده و از وابستگی دانش به حالات خاص حاملین آن، هرچه بیشتر کاسته و دانش را هر چه عینی‌تر کرد. [ابزار، زبان و کتابت، تفکر تجریدى بشر را تقویت کردند. ریاضیات و ابزار انجام عملیات ریاضی (که خود نوعى کار فکرى است)، خیلى زود در تاریخ بشر به ظهور رسیده‌اند، شاید از هنگامی‌که انسانها از انگشتان خود براى شمارش اشیاء استفاده کرده‌اند. حتى ابزارهاى مشابه چرتکه، در دوران ماقبل تاریخ بکار برده شده‌اند. این ابزارها و ریاضیات نیز، به نوبه خود به عینى‌تر شدن دانش کمک کرده‌اند].
با پیدایش کتابت، دیگر کاربرد، نقد و توسعه دانش بوسیله انسان‌هائی که از نظر مکانی و زمانی جدا بودند امکان‌پذیر شد، یعنی دانش عینی‌تر شده و به جهانی در خود تبدیل شد، قابل تفکیک هم از جهان طبیعی و هم از جهان ذهنی هر فرد معین. به همین شکل، ابزارها مجزا از اشیاء طبیعی، دنیای دیگری را تشکیل دادند، که با دانش بشر حک شده بود. ابزارها برای کار فیزیکی و فکری بکار برده شدند و بخشاً در پیشرفت‌های صنعتی بعدی اتوماتیک شدند.
دانش و ابزار اساس همة پیشرفت‌هاى بعدى بشریت (یا حتى عقب‌گردهایش) را تشکیل داده‌اند. استفاده از دانش و ابزار در تولید و همة جوانب دیگر زندگى متقابلاً بر روى انسانها از نظر فیزیکى، فکرى و اجتماعى تأثیر گذارد. در واقع براى درک پیشرفت عظیم نوع بشر، کافى است ملاحظه کنیم که چگونه کودکان ما قادرند در مدت زمان بسیار کوتاهى، دانش وسیعى را فراگرفته و استفاده از ابزارهاى مختلفى را بیاموزند. انسان تنها موجود روى زمین است که از دانش و ابزار در همة جوانب زندگى خود استفاده می‌کند. در یک کلام، می‌توانیم بگوییم که ابزارسازى مهمترین فعالیتى بوده که اجداد ما را از میمون‌هاى دیگر تفکیک نمود و انسان‌ها خصوصاً بواسطه تولید دانش و ابزار، در عالم حیوانات قابل تمیز هستند. هیچ تحول تکنولوژیک یا توسعة اجتماعی - سیاسى دیگر، نتوانسته به چنین تفکیک فاحشى بین نوع بشر و دیگر انواع موجودات کره ارض بیانجامد.
جهان دانش و جهان ابزارها، تنها در یک پدیدة ویژه تلاقی کرده‌اند و آنهم در وجود ابزارهاى هوشمند (نظیر سگ‌هاى پلیس) بوده است. با اینکه این ابزارها بوسیله انسان بکار برده می‌شدند، ولیکن انسان قادر به تولید آنها نبوده است. داشتن ادراکات حسى و توان‌هاى حرکتى، ظرفیت تبادل اطلاعات با انسان (ارتباطات) و توان یادگیرى مهارت‌هاى ویژه مورد نیاز براى انجا م کارهای معین، خواص ایده‌الى بودند که در این ابزارهاى هوشمند طلب می‌شدند. این ابزارها، به طرز خاصی به دانش و نیازهای بشر مرتبط بودند. ابزارهاى عادى بوسیله دانش بشر بکار رفته و اصلاح می‌شدند، تا پاسخگوى نیازها و اهداف بشر باشند و توسعه آنها فقط بوسیله سطح تکنولوژى وقت محدود می‌شد. ابزارهاى هوشمند همچنین بوسیله تکامل طبیعى محدود می‌شدند که خود تا قبل از پیدایش مهندسى ژنتیک، تقریباً از حوزه نفوذ دانش بشر خارج بوده است. محدودیت‌هاى طبیعى ابزار هوشمند، اغلب دلیل «خوبى» براى بى‌توجهى فلاسفه و تاریخ‌نگاران ابزارسازى، به این پدیدة مهم تلقى شده است. معهذا، ابزار هوشمند مدرن، نه تنها در حوزه نفوذ دانش بشر قرار گرفته است، بلکه این ابزارها، هرچه بیشتر خود تبلور دانش موجودند. امکانات کنونى در*تولید* اینگونه ابزارها، ضرورت بررسى تأثیرات اجتماعى آنها در گذشته و نیز اهمیت تفکر دربارة تأثیرات ممکن آنها در آینده را آشکار می‌سازد.

2- ابزار هوشمند قدیم
حیوانات از اولین ابزارهاى هوشمندى هستند که توسط بشر بکار رفته‌اند. بهره‌ورى از حیوانات بعنوان ابزار، به دوران انسان‌هاى اولیه باز می‌گردد. می‌توان استفاده از اسب براى حمل و نقل، سگ براى ردیابى فراریان، کبوتر براى نامه‌رسانى، شاهین براى شکار پرندگان و بسیارى نمونه‌هاى دیگر را ذکر کرد. تا آنجا که بکارگیرى ابزار هوشمند مدنظر باشد، این اقدام بدعت تازه‌اى در تاریخ بشریت نیست (حتى برخى حیوانات نیز از حیوانات دیگر، یا حتى از نوع خود، بعنوان ابزار استفاده مىکنند)، لیکن تولید ابزار هوشمند، پدیده نسبتاً جدیدى است و این دسته از ابزارهاى هوشمند، حتى بواسطه تکامل طبیعى هم محدود نمی‌شوند. درباره ابزار هوشمند جدید، در بخش بعد به تفصیل خواهم نوشت. اما قبلاً لازم است که با بررسى برخى کیفیات خاص ابزارهاى هوشمند قدیم، به نقش اینگونه ا بزارها در جامعه وقوف بیشترى حاصل کنیم. برای این هدف، اجازه دهید نمونه استفاده از اسب بعنوان ابزار را در کانون توجه خود قرار دهیم.


اسب، بعنوان ابزار حمل و نقل، بخاطر قدرت محرکه‌اش مورد استفاده قرار می‌گرفت. خصوصیات بیولوژیک اسب امکان استفاده از این حیوان را بعنوان ابزارى با کاربرد سهل، سرعت قابل توجه و ظرفیت کافى براى تبعیت به محیط، فراهم آورده بود. رجحان اسب (یا شتر، لاما و امثالهم) بعنوان وسیله نقلیه، به بسیاری حیوانات قوى‌تر، اساسأ بخاطر ظرفیت این حیوان در عمل‌کردن بعنوان ابزار، یعنى بخاطر تسلیم شدن به کنترل بوده است. مثلاً ذکر این نکته بى‌مناسبت نیست که گوریل هم باهوش‌تر و هم قوی‌تر از اسب است، ولیکن ظرفیت لازم جهت تسلیم شدن به کنترل را ندارد. تسلیم به کنترل یا اجراى دستور، ممکن است که به هوش حیوان نیافزاید، ولیکن مطمئناً وى را ابزارسان می‌کند. بنابراین، گزینش اسب، نه بخاطر شعور وى (یا حتى عقل سلیم او)، بلکه عمدتاً به علت قابلیت اسب جهت تبدیل شدن به یک سیستم لکوموتیو ابزارسان، بوده است. [آشکار است که این حیوانات هیچ‌گاه نمی‌توانستند خصوصیات حاکى از هوش خود را از دست بدهند و انسان‌ها نیز با آنها بعنوان ابزار صرف رفتار نمی‌کردند. احساسات و حتی مناسبات محبت‌آمیز فى‌مابین انسان و سگ (یا اسب) در تمام تمدن‌ها متداول بوده است. اما این مناسبات تنها موقعى وجود داشته‌اند که این حیوانات بعنوان یار و یاور انسان عمل می‌کرده‌اند و نه زمانى که به مثابه ابزار مورد توجه قرار می‌گرفتند (همین حقیقت در مورد روابط فى‌مابین خود انسان‌ها هم صادق است)].
جایگزینى نهائی اسب بوسیله اتومبیل نیز تایید بیشترى بر نظریه بالاست. اتومبیل هم به لحاظ قدرت محرکه و هم از نظر تسلیم به کنترل، بهتر از اسب عمل می‌کند. ولیکن احمق‌ترین اسب‌ها، به راحتى قادرند در صورت غفلت سوارکارشان، از خطر افتادن در یک نهر آب مانع شوند، در صورتیکه غفلت راننده اتومبیل، در تشخیص یک نهر آب، می‌تواند به قیمت واژگونى بهترین اتومبیل‌ها تمام شود. معهذا، این اختلاف مهم، باعث نشد که انسان حتى لحظه‌اى در جانشین کردن اتومبیل به جاى اسب تردید کند، چرا که علت اصلى در انتخاب اسب براى حمل و نقل، از همان ابتدا نه *شعور کلى* اسب، بلکه وجود قوه محرکه در حیوانى بود، که ظرفیت لازم را براى عمل کردن به مثابه ابزار دارا بود. همین عقیده را می‌توان دربارة سگ و دیگر حیوانات ابزارسان اظهار نمود. البته آنچه گفته شد، بدین معنى نیست که انسان‌ها همیشه نسبت به فوائد عقل سلیم در حیوانات ابزارسان، بى‌تفاوت بوده‌اند، بلکه منظور این است که علت اصلى براى انتخاب حیوانات بعنوان ابزار هوشمند، نه شعور کلی آنها بلکه توان آنها برای انجام کار معین و ظرفیت آنها براى عملکردن بعنوان ابزار بوده است.


اما چرا شعور در این ابزارها براى بشر مصرف کننده حائز اهمیت نبود؟ من فکر می‌کنم که پاسخ به این سؤال در امکان بشر براى گزینش ابزار هوشمندى «همه فن حریف» (با کارآیى غیرقابل مقایسه با حیوانات جهت انجام کارهاى مرتبط به شعور) نهفته است؛ یعنى ابزارى که قابل کار برد بر روى ابزارهاى دیگر و از جمله قابل کاربرد بر روى حیوانات ابزارسان بوده است. این ابزار چیزى نبود به غیر از خود *انسان* (در ظرفیت ابزار). تنها وقتی که خصوصیت عقلى معینى در انسان قابل دسترسى نبود، از حیوانات به خاطر *شعورشان* استفاده می‌شد و آنهم در حوزه‌اى محدود. مثلاً حس قوى بویایى در سگ باعث شده است که بعنوان ابزارى جهت ردیابى بو، به انسان ترجیح داده شود و حتى اتکاء به ذکاوت سگ براى تعقیب فراریان هنوز هم معمول است. باستثناء اینگونه موارد، هرگاه شعورى بیش از توان اجراى دستورات، در ابزارى طلب می‌شده، همواره بعنوان ابزار، انسان به حیوانات ترجیح داده شده است.
***
بنابراین جهت درک اهمیت ابزار هوشمند در تاریخ، عطف توجه به خود انسان بیش از مطالعه حیوانات حائز اهمیت است. لازم به یادآورى است که انسان زمانى بعنوان ابزار عمل می‌کند که ادراکات حسى و توان‌هاى حرکتى، فهم زبان و مهارت‌هاى ویژة وى بعنوان *وسائل تولید* (یعنى «وسیله‌ای در خدمت تولید به مثابه هدف») مورد استفاده قرار گیرند. به درجه‌اى که تنوع فعالیت‌هاى بشر زدوده شده و آزادى او به خاطر تطبیق با پروسه تولید محدود گردد، به همان اندازه نیز انسان بیشتر ابزارسان می‌شود. بالعکس، به درجه‌اى که تنوع، دانش و کمال بر فعالیت‌هاى تولیدى بشر مستولى گردد، به همان نسبت نیز انسان *هدفى در خود* باقی مانده و به موقعیت ابزارى ویژه تنزل نمی‌یابد.
هر قدر که جامعه بغرنج‌تر باشد، کشیدن خط فاصلى بین این دو نوع فعالیت بشر، مشکل‌تر می‌شود. اما کماکان کنترل، عامل تعیین‌کننده خصلت هر یک از این دو نوع فعالیت است. تا زمانی‌که ابزار هوشمندى بهتر از انسان (در ظرفیت ابزار) براى انجام کارهایى که انجامشان نیازمند این‌گونه ابزارها بود وجود نداشت، ضرورتاً مناسبات اجتماعى‌اى توسعه یافت که مساوات طبیعى همة انسان‌ها و کاربرد انسان بعنوان ابزار را مورد سازش قرار می‌داد. این دسته مناسبات اجتماعی، بخش اصلی تمام مناسبات اجتماعی را در تاریخ بشریت تشکیل داده‌اند. در نتیجه، اغلب دشوار است که تعیین کنیم آیا فرد معینى، در زمان معینى، بعنوان فردى آزاد عمل کرده است یا که به مثابه ابزارى براى اهدافی ناخواسته به مصرف رسیده است. تنها برده‌دارى روشن‌ترین تفکیک را بین دو نوع هستى بشر به منصه ظهور رساند، بردگان که بعنوان ابزار، تسلیم کنترل صاحبان خود بودند و برده‌داران که بردگان خود را به عنوان ابزار محض در نظر گرفته و بر آنان حکمرانى می‌کردند.
برده‌دارى اولین استفاده مهم از انسان به عنوان ابزار بود. براى بردگان، داشتن قضاوت مستقل، «معصیتى» نابخشودنى تلقى شده و تسلیم به کنترل صاحبان، «فضیلتی» در خور ستایش به حساب مى‌آمد. بردگان، حتى مانند دیگر ابزارها، به صورت ملک خصوصى مورد *تصاحب* قرار می‌گرفتند. انواع گوناگون برده، براى کارهاى ویژه تربیت می‌شدند و قوانینى وجود داشت که از طریق غیرقانونى کردن شرکت آنان در بسیارى فعالیتهای اجتماعى، نظیر تعلیم و تربیت، از تکامل آنها به انسان‌هاى کامل جلوگیرى بعمل می‌آورد. بطور خلاصه، بهترین برده در جا معه برده‌داری، انسانى بود که می‌توانست به مثابه بهترین ابزار هوشمند براى تولید عمل کند.
از سوى دیگر، استفاده از انسان به عنوان ابزار هوشمند، این امکان را بوجود آورد که بخش بزرگى از شهروندان آزاد از تماس مسقیم با ابزارآلات فاصله بگیرند. بنابراین، نقش آنها در پروسه تولید در عرصه کنترل قرار گرفت و دانش و تصمیم‌گیرى، به وظایف اصلى‌شان در تولید اجتماعى تبدیل شد. به عبارت دیگر، در اختیار داشتن ابزار هوشمند باعث شد که این بخش جمعیت، از کار کردن براى حوائج اولیه خود بى‌نیاز گردد.
بناهاى عظیم عصر باستان تا انقلاب صنعتى همتایى نیافتند. ابزارهای بى‌جان، به همراه ابزار هوشمند (بردگان)، تنها به دانش و تصمیم‌گیرى صاحبانشان نیاز داشتند تا بتوانند به مثابه یک سیستم اتوماتیک تولید ثروت عمل کنند. گویى ماشین زیرکى تولد یافته بود که قادر بود تولید را با دستورات شفاهى آغاز کرده، بر حسب تمایل صاحبکار تغییر شکل یافته و با تشخیص نیازهاى کار تعالى پذیرد، به واقع که انسان چه راه طولانى‌اى را نسبت به زمانیکه همة کارهایش را با دستان خود به ا نجا م می‌رسانید، طى کرده بود. به دیگر سخن، ابزار هوشمند با ایفاى نقش مکمل ابزار بى‌جان، تکیه‌گاه ترقى بشریت از توحش به تمدن بود.


هر چند سطح تکنولوژى جامعه برده‌دارى، مبناى تکنولوژیک مناسبى براى استفاده از انسان به عنوان ابزار هوشمند بوجود آورد، لیکن از بین رفتن برده‌دارى به خاطر نابودى این مبناى تکنولوژیک نبود. در حقیقت، احیاء برده‌دارى در ابتداى تاریخ ایالات متحده آمریکا، روشن ساخت که حتى ابزارهاى آمریکاى مدرن نیز قابل استفاده در یک سیستم برده‌داری بودند. در واقع علت محو برده‌دارى در جهان، چیزى نبود مگر غیرقابل قبول شدن رفتار بى‌شرمانه با نوع خودمان به عنوان ابزار محض. هرچه انسان‌ها متمدن‌تر شدند، کمتر چنین نابرابرهاى آشکاری را می‌توانستند تحمل کنند. شاید نیازى به یادآورى نباشد که چارچوب فکرى کل هر جامعه برده‌دارى، بر فرض یا ادراکى متکى بود که بردگان را به عنوان ابزار محض درنظر می‌گرفت. فرضى که مطمئناً برخلاف حقیقت بوده و طبعاً بوسیله کسانى از هر دو سوى این رابطه مورد تردید و اعتراض قرار می‌گرفت. معهذا، تا زمانى که نوع بشر فاقد ابزار هوشمندى بود که کارهاى مورد نیاز جامعه را بهتر از وى بانجام رساند، همواره اشکال گوناگونى از انقیاد انسان بوسیله انسان یا حتى امکان احیاء برده‌دارى، می‌توانست بقاء حیات یابد.
صرف‌نظر از مسائل اجتماعى که استفاده از حیوانات و انسان بعنوان ا بزار هوشمند به همراه داشت، مانع جدى دیگرى نیز بر سر راه استفاده از آنها وجود داشت (تا قبل از مهندسى ژنتیک و آن هم محدودیت‌هاى طبیعى اینگونه ابزارها بود. ابزارهاى دیگر براى انجام وظایف نوین قابل اصلاح و تعالى بودند و تنها سطح تکنولوژى وقت، پیشرفت ابزارهای بى‌جان را محدود می‌کرد. حیوانات و انسان، بعنوان ابزار نه تنها به خاطر سطح تکنولوژى محدود می‌شدند، بلکه پیشرفتشان بعنوان ابزار، به خاطر محصور بودن ذاتى‌شان در تکامل طبیعى نیز محدود می‌شد و این نقص نیز مانعى اساسى بر سر راه رشد ابزارهاى هوشمند قدیم قرار می‌داد. مثلاً تطویل دست بشر، به دو برابر اندازه طبیعى‌اش یا افزایش سرعت اسب، به دو برابر سرعت طبیعى آن، طى هزاران سال غیر ممکن بوده است، بویژه فائق آمدن بر حدود طول عمر طبیعى این‌دسته از ابزارها، از طریق تکنولوژیک، غیرقابل حصول بوده است. در مقایسه، قابل ذکر است که طى پنجاه سال اخیر، طول جراثقال‌ها زیاد شده، سرعت اتومبیل‌ها اضافه شده و عمر فولاد چندین برابر افزایش یافته است.


به علاوه آنچه ابزارهاى هوشمند را ویژه می‌ساخت، یعنى حواس، قدرت استدلال و ظرفیت ارتباطاتى آنها، به سختى ممکن بود که طى قرون متمادى پیشرفت چشمگیرى کند. به عبارت دیگر، ابزار هوشمند سابق (مثلاً انسان در ظرفیت ابزار، نه تنها به دلایل اجتماعى، براى عملکردن به مثابه ابزار با مشکلات عدیده‌ای روبرو بودند، بلکه در عین حال، خود موجودیت بیولوژیک آنها هم، نقص جدى‌اى در برابر تعالی آنها، به مثابه ابزار بوده است. هردوى این عوامل منفی، در ابزار هوشمند کنونى، یعنى «رباط‌های هوشمند" وجود ندارد.

3- شعور ماشینی: آلترناتیو جدیدی در خدمت بشر
براى استناد به درکى مشترک از ابزار هوشمند جدید، من دستاوردهاى انقلاب کامپیوترى را در سه پاراگراف زیر خلاصه کرده‌ام:
پیشرفتهای تکنولوژى کامپیوتر را می‌توان بطور کلى به دو مقوله تقسیم کرد: «پروسه کردن اعداد number processing» و «پروسه کردن علائم symbol processing».

 مقوله اول بیش از تمام پیشرفت‌های تکنولوژى چاپ، توانسته است که اطلاعات را قابل دسترسى، نگهداری و انتقال کند [لازم به تذکر است که کامپیوتر، هنوز امکان شانسی پیدا کردن مطلب مورد علاقه، که در ورق زدن کتاب یا روزنامه، قابل حصول است را نمی‌تواند مهیا کند]. کامپیوتر، همه ابزارهاى محاسباتى قدیم، نظیر چرتکه یا خط‌کش محاسبه را از نظر سرعت، تنوع عملیاتى و راحتى استفاده، پشت سر گذاشته است. درنتیجه، پیشرفت این تکنولوژى، در محدوده مقوله اول، باعث گسترش اتوماسیون به کارهاى یکنواخت فکرى شده و افق تحول جامعه و انقلاب صنعتى را به مرزهاى نوینى توسعه داده است.
مقوله دوم، یعنى پروسه کردن علایم یا شعور ماشینى AI، باعث شده است که «مانندسازی simulation» بسیاری از قابلیت‌هاى دماغى بشر، نظیر ادراکات حسى و توان‌هاى حرکتى locomotion، قدرت استدلال و مسأله‌حل‌کنى problem-solving، ارتباطات به زبانهاى طبیعى بشرى و بسیاری توان‌های دیگر بشری، امکان‌پذیر شود. [ معهذا، مانندسازی برخی پروسه‌های ذهنی، نظیر تدوین «اصول تئوری‌ها»، «استدلال ناشی از درک مستقیمcommon sense understanding»، تا حد زیادی، خارج از امکانات شعور ماشینی، در حال حاضر است.] هم اکنون «سیستم‌هاى هوشمند بینائى» وارد پروسه تولید شده‌اند و در کنار «کارگران نوع انسان» کار می‌کنند. ازطریق» پروسه کردن دانش knowledge processing»، سیستم‌های متخصصیexpert systems ساخته شده‌اند که می‌توانند وظایف گوناگونی، نظیر تشخیص طبی ناخوشی را انجام دهند. [مثلاً سیستم تخصصی *انترنیست Internist* که در دانشگاه پیتزبورگ آمریکا ساخته شده است، نمونه خوبی از این سیستم‌های متخصص است که قادر به ارائه تشخیصی در حد دوسوم یک پزشک حاذق داخلی است. سیستم‌های دانشی knowledge systems مشابهی در زمینه‌های مشاوره حقوقی، مالی، روانی و بسیاری تخصص‌های دیگر بوجود آمده یا در دست تهیه هستند.] سیستم‌های پرسش و پاسخ به زبان‌های طبیعی، مدت‌هاست که وارد بازار شده‌اند.
صرفنظر از مجادلات فلسفى که پیرامون خصلت هوش وجود دارد، این ابزارها قادرند کارهایى انجام دهند که قبلأ در نیاز به هوش براى انجام آن کارها تردیدی وجود نداشت و بنابراین می‌توان حداقل به معنى محدود کلمه، این ابزارها را هوشمند نامید. به عبارت دیگر، شعور ماشینى موفق به ارایه آلترناتیو جدیدى از ابزار هوشمند در تاریخ بشر شده است. این حقیقت باعث شده است که فلاسفه AI ( فیلسوفانى که رشته شعور ماشینى را دنبال می‌کنند)، توجه خود را از عرصه فلسفه روح (یعنى بررسى سؤالاتى نظیر اینکه آیا «ماشین می‌تواند فکر کند یا نه!»، به عرصه فلسفه اجتماعى- سیاسى معطوف کرده‌اند و آغاز به کنکاش دربارة تأثیرات اجتماعى ابزارهاى هوشمند نوین، بر روى جامعه نموده‌اند. من در سطور زیر نشان می‌دهم که چگونه ابزارهای هوشمند تازه تولید شده، قادر به پشت سر گذاردن محدودیت‌های ابزارهاى هوشمند قدیم هستند. به دیگر سخن، «مصنوعا ت AI» که بتوانند بهتر از انسان (به مثابه ابزار)، عمل کنند، ممکن است شالوده تمدن نوینى را پى‌افکنند که در آن انقیاد انسان به وسیله انسان، پایان پذیرد.

***
ابزارآلات هوشمند کنونى، «رباط هوشمند» نامیده می‌شوند [برای توضیح درباره نانوباط‌ها nanobots در نانوتکنولوژی، به نوشتار آیا نانوتکنولوژی واقعی است؟ مراجعه کنید.] در واقع این پدیده، ترکیب (سنتز) بىنظیرى است از ابزار و دانش که براى نخستین بار در تاریخ بشر بوجود آمده است. این ابزار مىتواند به سیستم بینایى (به علاوه دیگر سیستم‌هاى حسى و حرکتى) تجهیز شده، دانش ویژه حوزه‌هاى مختلف کار را فرا گرفته و ظرفیت زبان طبیعى در حد زبان‌هاى گوناگون بشرى را کسب کند. بنابراین، برعکس حیوانات یا انسان، بینایى رباط قابل گسترش است و تنها محدودیت آن، سطح تکنولوژى وقت است. دانش ویژه مورد نیاز رباط، جهت کارآیى مطلوب، در حوزه‌هاى مختلف کار نیز، می‌تواند به مقدار لازم افزایش یابد، تا کارآمدترین بازده قابل مقایسه با ماهرترین کارگران و متخصصان را فراهم آورد. ظرفیت ارتباطاتى رباط، می‌تواند به یک دوجین زبانهاى مختلف گسترش یابد، در صورتیکه کارگر نوع انسان معمولى، به سختى می‌تواند حتى به دو زبان ارتباط برقرار کند. بطور خلاصه، تنها محدودیت پیشرفت رباط هوشمند، سطح تکنولوژى وقت است که این خود متقابلأ بوسیله شعور بشر محدود می‌شود. بنابراین، استفاده جامع از قابلیت‌هاى ابزار هوشمند، مصادف خواهد شد با افزایش شعور بشر به سطوحى که تمام پیشرفت‌های گذشته در برابرش همچون کاهى در برابر کوه جلوه‌گر می‌شوند.
من مدعى نیستم که این مصنوعات در حال حاضر از نظر هوشى در موقعیتى هستند که با عقل سلیم بشرى برابرى کنند. ولیکن ابزارهاى سنگی هموسپین‌ها (یعنی انسان‌هاى اولیه) نیز هیچگاه قادر به رقابت با انسان یا حیوانات، در بلند کردن اشیاء سنگین نبودند. مدت‌زمان زیادى گذشت تا اهرم‌ها و آسیاب‌های بادى ساخته شوند. با این حال، تولید ابزار سنگى بود که ترقیات آینده را امکان‌پذیر ساخت، آنچنان که امروز ابزارهایى نظیر جراثقال وجود دارد که نیرویشان از قدرت هر ورزشکار یا حتى هر حیوان زورمندى تجاوز می‌کند. بنابراین، توان کنونى رباط‌هاى هوشمند موجود، آنقدر مهم نیست که پتانسیل نهفته در این مصنوعات، حائز اهمیت است.
براى نخستین بار در تاریخ، تولید ابزارهاى بالا، انسان را قادر کرده است که بر مانع تکامل طبیعى ابزارهاى هوشمند، فائق آید. این امر بدون شک باعث افزایش سرشار تولید جهانى خواهد شد. همچنین هرگاه این ابزارها بتوانند بهتر از انسان (در ظرفیت ابزار) عمل کنند، دیگر هرگونه نیاز تکنولوژیکى براى به خفت افکندن همنوعان خود به صف ابزارآلات از بین خواهد رفت. بطور خلاصه، در پى تولید ابزار هوشمند، ما می‌توانیم انتظار محو مبناى تکنولوژیک هرگونه بردگى انسان را در آینده نزدیک داشته باشبم. ما شاهد واقعه‌اى به اهمیت اولین ابزارسازى توسط اجدادمان هستیم. این تکامل ممکن است شالوده تمدن نوینی را پی‌افکند که در آن افزایش همزمان آزادی‌های اجتماعی- سیاسی از یک‌طرف و افزایش ثروت اقتصادی از سوی دیگر، بوقوع بپیوندند- انطباقی که به ندرت در تاریخ بشریت اتفاق افتاده است. در چنبن جامعه‌اى، فعالیت اصلى بشر، ببشتر به کاوش‌هاى آزادانه هنرمندى مرفه شباهت خواهد داشت تا به اطاعت سربازوارانه کارگرى بى‌چیز.


بالاخره، بى‌مناسبت نیست تذکر دهم که چرا در این مقاله، رباط‌ها را تنها بعنوان ابزار، مورد ارزیابى قرار داده‌ام. همانگونه که مؤلفین بسیارى خاطرنشان کرده‌اند، من نیز واقفم که امکان *منطقی‌ای* وجود دارد که رباط‌ها به نوع جدیدی از موجودات تکامل یابند، که از شعور *کنونى* انسان پیشى بگیرند (هرچند بنظر من، تا آنزمان، انسان نیز از نظر هوشى، پیشتر رفته و ممکن است کماکان نسبت به این موجودات جلوتر باشد). در واقع امکانات بسیارى وجود دارد که نوع متعالى‌ترى، یک زمان در کره ارض سکنى گزیند (مثلاً امکان وجود «موجودات ماوراء زمینى»، هنوز کمان محتمل است) و منشأ این موجودات می‌تواند از مهندسى ژنتیک و سفرهاى فضایی، تا تولید رباط هوشمند و تکامل انسان را شامل شود. شاید ما بیشتر نیازهاى بیولوژیک خود را با حیوانات و عمدتاً نیازهاى اجتماعى خود را با این موجودات متعالى‌تر، مورد اشتراک یابیم. این اشتراک ممکن است، باعث از بین رفتن برخى دیدگاه‌هاى *انسان‌مرکزبینى* ما از جهان شود که بویژه با سقوط تمدن یونان باستان، به بخش قابل توجهى از جهان‌بینى ما تبدیل شده‌اند. به هر حال این موضوعات، خارج از محدوده این بررسى هستند، چرا که در این رساله، موضوع مدنظر من، بیشتر مطالعه مبناى تکنولوژیک انقیاد انسان بوسیله *انسان* و شرایط تکنولوژیک از بین رفتن آن بوده است. [برای توضیح درباره ا نسان مرکزبینى، به نوشتار تولید فراانسان مرکزی مراجعه کنید.]

4- دورنمای آینده
شکى نیست که پیشرفت و تطور ابزار هوشمند نوین، شعور ما را در حد بى‌سابقه‌اى به چالش کشیده و از این طریق باعث رشد عظیم عقل سلیم ما خواهد شد. این تحول می‌تواند، شالوده تمدن نوینى را پى‌ریزى کند که در آن براى اولین‌بار، انسان از طرف موجودات دیگر، نه بخاطر توان فیزیکى، بلکه همچنین ازطریق این موجودات، بخاطر عقل و شعور آنها، به رقابت کشانده شود. مبناى تکنولوژیک انقیاد انسان بوسیله انسان، و نتایج تحقیرکننده آن، در جامعه حذف شده و امکان شعور بالاتر انسانى، ثروت فراوان‌تر و آزادی‌هاى اجتماعى - سیاسى بیشتر بوجود آید.
در پرتو آنچه ذکرشد، من فرارسیدن تمدن نوین را استقبال کرده و انتظار آینده بهترى را در پى این تحولات دارم. دیدگاه‌هاى بدبینانه از آینده، ناشى از ایستا قلمداد کردن تکامل بشر، در دوران رشد و تکوین ابزارهاى هوشمند است. به نظر من با پیدایش شعور ماشینى، براى اولین بار در تاریخ بشر، کوشش بى‌نظیرى جهت بهره‌بردارى همه‌جانبه از خصایص حاکى از هوش برخى مصنوعات متفکر آغاز خواهد شد. آنچه شاهدش هستیم، تازه گوشة کوچکى از پتانسیل عظیمى است که در آینده‌اى نه چندان دور، قابل تحقق است و مطمثناً این مساعى، دینامیسم خاصى به تکامل نوع بشر خواهد داد که به همراه پیشرفت‌هاى مهندسى ژنتیک و ارتباطات ماهواره‌اى، پروسه تولید در این جامعه عصر فضا، آنقدر سریع تغییر خواهد کرد که حتى خطوط کلى زندگى اجتماعى جدید را، به سختى می‌توان به تصور آورد. لیکن جدا از اینکه فرماسیون‌هاى نوین اجتماعى، چه اشکال مشخصی به خود بگیرند، بعضى تأثیرات اجتماعى ابزار هوشمند جدید، ممکن است به شرح زیر باشند:

* توسعه عمق شعور بشر: عقل سلیم انسان، بسیار تکامل یافته‌تر گشته و انتظار کشفیات، اختراعات و حتى درک جدیدى از خود در آینده نزدیک، دور از واقعیت بنظر نمی‌رسد.

* آزادی اکثریت بشریت، از زندگی بعنوان ابزار و وسائل تولید: درصد بیشتری از مردم خواهند توانست که به فعالیت موردعلاقه‌شان در زندگى بپردازند، بجاى آنکه صرفاً به خاطر تأمین نیازهاى اولیه‌شان، ناگزیر به انجام کارهاى مورد نفرتشان باشند.

* کثرت عظیم ثروت بشریت: گشوده شدن مرزهاى نو در برابر ما، چه در فضا و چه در زمین، مطمئناً پیامد این ترقیات خواهد بود.

ممکن است در نگاه نخست، شکل دادن پروسه‌هاى نوین تولید، نظیر ایجاد «کارخانجات و دفاتر آینده factories and offices of the future» یا «خانه‌هاى آینده homes of the future» و امثالهم، اقدامات کلیدى جهت ساختن آینده جلوه کنند. لیکن تحقق ثمرات پیشرفت‌هاى تکنولوژیک جدید، تنها با طرح و توسعه روابط اجتماعى مناسب امکان‌پذیر است و در آینده نزدیک، این موضوع، *مضمون اصلى* فعالیت اجتماعى افراد آینده‌نگر را تشکیل خواهد داد. [مثلاً دادن الویت به تولید کلیه مصنوعی، بجای استفاده از کلیه انسانهای دیگر که به جنایات تجارت کلیه انجامیده است.] نقش علم چه به علت نیازهاى تکنیکى جدید (که خود ناشى از بغرنج‌تر شدن پروسه‌هاى تولیدى و ازدیاد ترکیب


دانش در آنها است ) و چه بعلت نیازهاى اجتماعى جدید (که مربوط به ارتباط متقابل انسان با این پروسه ها است)، افزایش خواهد یافت. بنا براین میتوان بغرنجى بیشتر پیشه هاى اصلى بشر را انتظار داشت. فعا لیت مرکزى اکثرت مردم، باحتمال زیاد مرتبط با پیشرفت دادن مناسبات اجتماعى و ارتفأ دادن مداوم سطح دانش ذخیره شده بشر، خوا هد بود. ممکن است که حتى در آمد شخصى، برمبنا ى تلفیقى ازنیا زها واهداف فرد، معین گردد. [برای توضیح درباره عدالت اجتماعی، به نوشتار عدالت اجتماعی و انقلاب کامپیوتری و رساله یک تئوری ارزش ویژه مراجعه کنید.]
توزیع ثروت و قدرت در این تمدن جدید کماکان مسأله‌اى تکنیکى نبوده و بعنوان معضلی اجتماعى باقى خواهد ماند. بنابراین، پاسخ به این سؤال که هر کس و هر کشور تا چه اندازه بتواند از ابزارآلات هوشمند و منافع آنها بهره‌مند شود، به نهادهاى اجتماعی آینده بستگی دارد. این دستاوردها، حتى ممکن است تا مدتها به فقر و فلاکت بسیارى از مردم نیز دامن بزنند. با این حال، من درباره آینده خوش‌بین هستم. به نظر من با محو مبناى تکنولوژیک آن مناسباتى که بخشى از بشریت را به مثابه ابزار تلقى می‌کند، حداقل بشریت قادر می‌شود که انرژى و توان بیشترى را مصروف حل معضلات اجتماعى و شکل دادن نهادهاى اجتماعى نوین کند. این نهادهای نوین اجتماعى می‌بایست با هدف حمله قرار دادن عفریت فقر، استبداد، جنگ و نابودى محیط زیست، در جهت ریشه‌‌کنى این ناملایمات اجتماعى حرکت کنند. بالاخر پاسخ به این سؤال که شکل‌گیرى تمدن نوین به طور مسالمت‌آمیز و همگون در سطح جهانی انجام شود یا نه نیز، کماکان مسأله‌اى است قابل بحثهائی که حتی هنوز خزیدن را نیاموخته بودند می‌نگریست؟

نظرات (1)
افق
دوشنبه 17 اردیبهشت‌ماه سال 1386 ساعت 09:53 ق.ظ
هندیجاسلام دوست عزیز

وبلاگ زیبایی دارین ... خوشحال میشیم به ما هم سری بزنید.

"در صورت تمایل شما هم می توانید آگهی های خود را به صورت رایگان در http://www.etayroo.com معرفی نمایید. "
به ما بپیوندید …

با تشکر.
امتیاز: 0 0
برای نمایش آواتار خود در این وبلاگ در سایت Gravatar.com ثبت نام کنید. (راهنما)
نام :
پست الکترونیک :
وب/وبلاگ :
ایمیل شما بعد از ثبت نمایش داده نخواهد شد