Могат ли да мислят машините?
(съчинение от сборника с есета на Даниъл Денет Продукти на мисълта 1998г)

   Много беше изписано през последните няколко години за теста на Тюринг, при това не съвсем коректно и отвъд хоризонтите на здравия разум. Най-типичните неправилни предположения относно този експеримент са свързани с порядъка на неговата величина. Това есе е една своеобразна противоотрова, протеза за въображението, скицираща монументалните габарити на въпроса, поставен от теста на Тюринг и оттук колко малко вероятно е който и да е компютър да го премине успешно. Аз съм презаредил това съчинение с нов посткрипт, поради факта, че досега не се стигаше достатъчно далеч в бранша на научното поощряване на фантазията.
   Могат ли да мислят машините? Класически философски препъни камък, предизвикващ въодушевление най-вече около концептуалността си, но в простата глъчка покрай проблемите на понятията мнозинството от философстващите са пренебрегнали истинската социална значимост на отговора. Далеч отвъд академичната важност е да се научим да разсъждаваме ясно върху актуалните когнитивни способности на компютрите, понеже на тях ще биват тепърва поверявани множество чувствителни социални роли, в чието разиграване техните умения ще бъдат проверявани и изпитвани на най-върховните инстанции. В широк спектър от сфери ние сме напът да станем подвластни именно на техните познавателни компетентности. И при евентуално надценяване на качествата им, дълга, който ще се наложи да заплатим ще бъде огромен.
    Един от изобретателите, стоящи в основата на компютъра, бил великият британски математик Алан Тюринг. Точно той е бил първият, който отгатнал, с помощта на високо-абстрактни понятия, как да се проектира изчислителен апарат, който може да бъде програмиран за автоматична операция- това, което днес наричаме универсална машина на Тюринг. Преди тридесет години, в зората на компютърната ера, Тюринг започнал класически научен параграф на име Изичслителни машини и интелигентност с думите- Аз предлагам да вземем под внимание въпроса: Могат ли да мислят машините?- но после в продължението, счел въпроса за зле поставен и водещ единствено до безплодни дебати и пазарлък относно дефиниции, или накратко въпрос „твърде безсмислен, за да заслужава дискусия”(Тюринг 1950). На негово място взел в замяна, въпрос, който сметнал за много по-добър, въпрос, който би могъл да бъде ободрително схрускан с отговори и интуитивно задоволителен, заместител, приемлив по всякакъв начин, вместо озадачаващия философски пъзел, с който започнал. Първо описал една теоретично-салонна игра, чиято главна цел била подражанието и участниците в която, трябвало да бъдат- мъж, жена и съдия(без значение на пола). Мъжът и жената биват скрити от зоркото око на арбитъра, но имат възможност да си комуникират с него(или нея) посредством телетип; задачата на рефера е да отгатне след определен период от щателни запитвания, отправени към всеки от двамата участници, кой от събеседниците е мъжът и кой е жената. Мъжът се опитва да убеди съдията, че той е жената(и жената се мъчи да убеди съдника в истината, че реално тя е жената) и мъжът би победил, ако съдията направи погрешната идентификация. Аз съм сигурен, че след известна доза размишления ще стигнете до довода, че(късметът на начинаещия настрани) трябва да си доста хитър и съобразителен мъж, за да убедиш успешно арбитъра, че си бил жената в случая, предполагайки, разбира се, че съдещият(съдещата) също се слави с ум, способност да прозрява и даровитост.
     Представете си сега, как Тюринг нарежда да заместим мъжа или жената с компютър и задачата на познавача е да реши от коя страна е човешкото същество и къде е компютърът. Тюринг предлага всеки компютър, който е в състояние редовно(в рамките на играта) да измамва проницателния съдник да бъде считан за интелигентен и би бил компютър, който мисли- отвъд рамките на каквито и да било първоначални основателни съмнения. Важно е точно тук да осъзнаем, че провалът на този тест не би трябвало да значи несъмнено липса на интелект. Все пак, много интелигентни хора не биха желали или не биха били в състояние да се впуснат подобаващо в играта на имитация и оттук е уважително да разрешим и на компютрите същата относителна възможност, която сме дали и на хората, а именно да откажат, отклонявайки поканата за изпитване на интелекта им. Това тогава се оказва еднопосочен тест, който дори да не бъде минат няма да докаже нищо основателно. Освен всичко, Тюринг не се обвързва изцяло(въпреки че, лесно се вижда как някой може да приеме, че прави точно това) с гледната точка, че да мислиш значи да мислиш точно като човешко същество, повече отколкото се е присъединявал към мнението, че според теста му, за да бъде установено, че един мъж мисли, то той би трябвало да разсъждава както жена. Мъжете, жените и компютрите може и да имат различни един от друг начини на мислене. Но със сигурност, Тюринг бил на мнение, че ако някой разсъждавал, оперирайки със собствения си, особен, стил на мислене достатъчно добре, за да имитира друг съждаващ(мъж или жена), то тогава този някой или нещо, определено мисли действително добре. Това, излизащо в представите, ментално упражнение се е популяризирало под нарицателното- Тест на Тюринг. Трагична ирония е, че предложението на Тюринг е имало диаметрално противоположен ефект върху неспиращата дискусия от този, който той е възнамерявал да има. Тюринг не е замислил теста си като полезен инструментален метод в сферата на научната психология, метод за потвърждаване или отхвърляне на научни теории или преценяване на частни модели на умствени функции, той го е схващал и изразявал като нищо повече от шлюз за философските разговори по темата.  С този експеримент е искал да насърчи духа на „Примирете се или млъкнете!” в научните среди- простичък мисловен тест, който без никакво съмнение е бил достатъчно силен, за да се хареса и на най-непреклонните скептици(или поне той така е смятал, че ще стане). Основното, което Тюринг се е надявал да пожъне, би могло да бъде обобщено по следния начин с апела: „Вместо да спорим безкрайно относно окончателната природа и най-убедителната есенция на мисловния процес, защо не се съгласим, че каквато и да е тази природа, всичко, което би било в състояние да премине този тест, навярно би я имало; тогава бихме могли да се насочим към умуването дали и как въобще е възможно някоя машина да бъде проектирана и построена, така че да е в състояние да премине теста, съобразявайки се по най-честния възможен начин с правилата.” Уви, философите- аматьори и професионалисти, са взели вместо това предложението на Тюринг като извинение и предлог, под който да продължат същия вид дефинитивни пазарлъци и несекващи спорове за въображаеми контрапимери, които създателя на теста се е надявал да осуети. Това тридесет-годишно главно занимание с теста на Тюринг се е оказало още по-прискръбно за потопилите се в него, тъй като през цялото време вниманието им е било фокусирано върху неправилните проблеми. Има проблеми, касаещи пряко реалния свят, които биват засегнати при разглеждането на силните и слаби страни на теста на Тюринг, но те са били укрити през цялото време в задимения сектор на лошо направляваните критики и преценки. Пропуските и неуспехите на въображението в креативното мислене относно теста, който в своята оригинална действителност бива предложен от Тюринг, са довели до неволята на множество от разглеждащите го да подценят неговата щателност, обърквайки го и смущавайки го с редица по-безинтересни научни заявки и предложения.
     Ето защо, искам да демонстрирам, че теста на Тюринг, представен, както той самият го е схванал и изразил е(по мнение на автора си) предостатъчно силен като проверка за мислене. Предизвиквам всекиго, който има желание и вяра в себе си, да го надмине. Но ето тук е точката почти всецяло пренебрегвана от литературата: Съществува общо погрешно приложение на вида на проверка, проявена чрез теста на Тюринг, тъй че това често води до надценяване на способностите на реалните понастоящем съществуващи компютърни системи. Безумията, съпътстващи този добре познат род мислене относно компютри могат най-добре да бъдат изяснени при преразглеждане на самия тест на Тюринг.
    Проницателността, лежаща в основите на този тест е същата като усета, вдъхновяващ новите практики измежду симфоничните оркестри да провеждат прослушвания с непрозрачен параван между жури и музикант. Това, което е от значение у един музикант, очевидно е способността му да музицира и само музикалността му е важна; признаци и белези като пол, дължина на коса, цвят на кожата и тегло са строго неуместни и странични в случая. И тъй като никога не е изключено комисиите без да искат, да подхождат с предразсъдъци-били те невинни и несъзнателни- относно тези несъществени черти, те биват внимателно засенчени по този начин при кастинга, така че само основните качества и талант да бъдат преглеждани и изпитвани. Тюринг познал, че хората по същия начин биха могли да бъдат повлияни в техните преценки на интелекта на някого от това дали участника в проверката има или няма: нежна кожа, добро кръвообръщение,  хармонични черти на лицето; крака и очи, които разбира се нямат нищо общо с основните компоненти, съставляващи интелекта, ето защо той изработил това планирано сито, което да пропуска само съществена мостра от нещото, което е от кардинално значение: способността да разбираш и разсъждаваш умно върху предизвикателни проблеми. Може би, Тюринг е бил вдъхновен от Декарт, който в своето Разсъждение за метода(1637) правдоподобно се опитвал да доказва, че няма по-взискателен тест върху човешката мисловна способност от умението да се поддържа интелигентна беседа.
   Напълно умозрително е как някоя машина би могла да бъде така направена, че да произнася думи и то даже думи, подходящи за наличието на действителни, физически и материални обекти и постъпки, които да причиняват дадени изменения в нейните механизми и органи, като например, ако е била докосната на някое място да бъде в готовност,  да ви попита, какво сте искали да й кажете; а при досег с друга неина част да би ревнала, че я боли и така нататък за други работи. Но никога не би съумяла да измени изразите си, та да отвърне на смисъла на каквото и да е било изречено в нейно присъствие, както дори най-глупавите хора го могат.
      Това било очевидно за Декарт през 17-ти век, но е естествено при положение, че най-модерните апаратури, които познавал били в образите на сложни часовникови механизми, съвсем не електронни изчислителни машини. Днес е повече от ясно, че подобни машинни инструменти са невъзможни, но Декартовото подозрение, че обикновен разговор би причинил същото пренапрежение, каквото би било предизвикано от всякакъв друг специализиран вид тестове е споделено от визията на Тюринг. Разбира се, че няма нищо свещено в точната разговорна игра, избрана от Тюринг за авторския му изпит, който е просто далновидно селектирана проверка на по обща интелигентност. Допускането, което Тюринг бил подготвен да предприеме било следното: Нищо и никой не биха могли да преминат неговия тест, печелейки играта на подражание без да бъдат в състояние да извършат за неопределено време множество други несъмнено умни действия. Нека наречем това предположение: приемане тип „бърз сондаж”. Тюринг осъзнал, както всеки на неговото място би стигнал до подобен извод, че съществуват стотици хиляди издаващи знаци на интелигентното мислене, които да бъдат наблюдавани у подобните нам и някой би могъл, по желание да състави обширна батарейна колекция от различни тестове за анализ на вместимостта на интелигентната мисъл. Но успехът на сформираната от него проверка, мислил си Тюринг, щял да бъде силно предвидим за сполуката на много други различни интуитивно приемливи проверки на интелект. Запомнете, провалът на Теста на Тюринг не би бил в състояние автоматично да предвиди провал и на други сходни изпити, но успешно издържан този тест със сигурност би предсказал верижност в успехите при явяването на останалите други тестове. Считал своя тест за толкова сурово изпитателен, че нищо на този свят, което е в състояние да го премине, спазвайки правилата, не би ни разочаровало с интелекта си в другите области. Може би, в крайна сметка, няма да е в състояние, да извърши всичко според всяка от надеждите, които сме му поверили, например, няма да цени балета или да разбира от квантова физика, или да има сносен план за световен мир, но всички ние бихме могли да видим, че тестът му определено е бил измежду най-смислените мислещи същностни величини в „околностите на махалата”.
      Нима, това високо мнение за неопровержимата строга взискателност на теста на Тюринг е просто заблуда? Безспорно, много хора са си мислили, че е- но са смятали така, защото обикновено не са си правили труда да си представят теста в достатъчната му детайлна прецизност и следователно са го подценявали. В опитите си да предотврати този род скептицизъм, Тюринг предложил различни измислени от него намесвания, логически проверки на аргументация, реплики и щрихи от разпита, които съдещият би могъл да приложи в рамките на изпита относно писането на поезия и играта на шах- които биха били наистина тежки, но с 30+ години опит в сферата на действителните сили и недостатъци на компютрите зад гърба ни можем да извадим от ръкавите си още няколко трудни изпитания за разсъждението в течение на проверката.
       Тери Уиногард, лидер в областта на изкуствения интелект, правещ усилия да изкара наяве способностите на един компютър да води разговор, приковава вниманието ни върху двойка изречения(Уиногард 1972), различаващи се само по една дума. Първото от тях гласи: Комисията отхвърли правото, позволяващо парад на групата, защото те подкрепяха насилие. Ето го и вторто: Комисията отхвърли правото, позволяващо парад на групата, защото те се опасяваха от насилие. Разликата е единствено в глаголите advocate и fear(подкрепям и страхувам се от). А и както Уиногард посочва, личното местоимение “те” във всяко от изреченията е официално двусмислено и може да бъде разбрано противоречиво. Така че, и двете тълкувания на „те” биват винаги зачетени като правилни. По такъв начин ние бихме могли да си представим свят, в който правителствени комитети, отговарящи за манифестациите, позволяват подкрепата и пропагандирането на насилие по улиците и по някаква непонятна причина използват точно това като избрания от тях предлог за отказа на разрешение за сформирането на конретните шествия. Но естественото, смислено, интелигентно разчитане на първото изречение е, че групата са били тези, които са подкрепяли насилието, а на второто, че от комисията са се страхували да не би да има прояви на насилие. Сега, обаче, ако изречения като тези са внедрени в самия разговор, компютърът трябва да отгатне, коя интерпретация на местоимението се е имала предвид, ако ще трябва да отговаря интелигентно. Но чистите граматични правила и лексикални особености няма да се справят от само себе си с правилното изтълкуване на смисъла. Това, което уточнява интерпретацията при четенето за нас лично лежи в основите на мирогледа ни относно света, политиката, социалните обстоятелства, комисиите и техните становища, групите, които искат да свикват шествия, какви биват тенденциите им в начина, по който се държат и куп други подобни фактори. На кратко, някой трябва да познава света и доста неща около действителността, за да осмисли подобно изречение.
       Казано на жаргона на занимаващите се с изкуствен интелект- разговарящ компютър се нуждае от доста светознание, за да свърши тази работа. Но, изглежда, че ако, някак си, компютърът е надарен с толкова богата обща култура, той би трябвало да бъде в състояние да извършва много повече с това си широко светосхващане, отколкото само да може да разбира, какво се казва в разговор, съдържащ само това изречение. Изглежда, единственият начин компютърът да избегне двусмислиците, пораждащи се от изречението, без да потъва, продължавайки до края на разговора, в който се използват  подобни изречения, би бил той да има много по-обща генерална способност да отговаря умно и гъвкаво на информация, касаеща социални и политически положения и безброй други теми. Ето защо, подобни изречения, поставящи изисквания върху този вид способности са чудесни бързи проби за интелекта, тоест те тестват по-просторните компетентности на мисленето.
      Типично за повечето от хората е да пренебрегнат перспективата да се налага някой съдя, да задава необичайни въпроси по време на теста на Тюринг и оттам подценяват качествата и способностите, които всеки компютър, който е в състояние да премине изпита успешно би притежавал. Но запомнете, регламентът на имитационната игра, поне както Тюринг го е представил, допуска съдията да задава всякакъв въпрос, който би поставил на човешко същество- безкомпромисно, безрезервно и без каквито и да било ограничения в тази насока. Представете си тогава как задаваме на участник в играта ето този въпрос: Ирландец се натъкнал на джин(тип дух в бутилка), който предложил да му изпълни две желания. „Първо бих искал една пинта от Гинес,”(ирландска бира)- рекъл ирландеца и когато желанието му се материализирало, той сръбнал няколко дълги глътки от чашата и потънал във възхищение, зървайки, как чашата сама се пълнила, щом си отпивал” „А какво бихте поискали като второ желание?”- попитал джинът. „Ох, ами, добре,” казал ирландеца „това е лесно. Бих желал да получа още една от тези!”
Като условието на задачата е- Моля разяснете ми тази история и ми кажете в случай, че намирате нещо смешно или тъжно в нея.
 Сега, дори дете би могло да изрази, макар и не много красноречиво разбирането, което се изисква при схващането на тази шега. Но се замислете, колко много някой трябва да разбира и да знае относно човешкия бит и култура(колкото и помпозно да звучи), за да е в състояние да си даде каквато и да било сметка за смисъла на този виц. Аз не си представям, че компютърът несъмнено би трябвало да се разсмее или да бъде искрено забавляван от развитието на смешната история. Но ако той иска да победи в тази игра на имитация- каквато е в крайна сметка тестът на Тюринг- то той би било по-добре да знае достатъчно по своя собствен, лишен от хумор, нечовешки начин в областта на човешката психология и култура, тъй че да е по възможностите му да се преструва ефективно, че е бил „разсмян” от шегата и да разясни защо.
       Може и да ви се струва, че бихме могли да скроим по-добър тест. Нека сравним теста на Тюринг с някои от другите кандидати за негов заместник. Първи кандидат: Компютърът е интелигентен, ако спечели световната купа по шахмат. Този вариант, се оказва, обаче, че не е много добър за тест. Необикновените  умения по шах е доказано, че са  изолиран талант. Тъй като се срещат в днешно време редица програми, които са в състояние да играят изящно шах, но да не могат да правят нищо друго. Така че, предложението за бърза и ефективна проверка на интелект, която да се фокусира изцяло върху способностите да играеш шах, считайки ги като мярка за цялостен интелект би било лъжливо.
Втори кандидат: Компютърът би се счел за интелигентен ако съумее да разреши Арабско-израелския конфликт. Този определено ще бъде по-тежък, неотстъпчив и щателен от теста на Тюринг. Но има и своите дефекти: няма да се слави с повторяемост, ако компютърът го премине ще е само веднъж и то без съмнение ще бъде бавно преминаване и плюс това не е кристално ясно какво точно би се счело за минаването му. Ето тогава и още едно предложение: Трети кандидат: Компютърът ще бъде счетен за интелигентен, ако успее в кажбата на скъпоценните камъни по Британската корона без да си служи със сила и насилствени методи. Този вариант, вече е по-добър. Първо, може да се повтаря отново и отново, все пак, разбира се, всеки повторен тест, както изглежда, би бил по-сложен, но това е признак, който споделя с теста на Тюринг. Второ, бележката и критерият за успех са ясни- или си взел скъпоценностите като трофей и доказателство за положените ти усилия, или просто не си. Но е скъп и бавен експеримент, съмнителна лудория в социален аспект, разгледан от най-благоприятната и висока възможна точка, и без съмнение късметът би изиграл кардинална роля в изпълнението на подобна мисия. С помощта на известни усилия и изобретателност някой би бил в състояние да се сети за други потенциални кандидатури за достоен сурогат на теста на Тюринг по строгост, ефикасност и честност при оценяването, но по мое мнение тази шепа примери биха достигнали, за да ни убедят, че ще бъде не лека задача да се надмине качеството на оригиналната заявка за проверка на изкуствен интелект, предложена от Тюринг. Но все пак, някои от вас биха протестирали, дадено нещо би могло да премине теста на Тюринг и все още да не бъде интелигентно и да не бъде счетено за мислител. Какво ли значи би могло в случая? Ако това, което имате предвид, е че при някакъв космически инцидент или при някакво свръхестествено съвпадение, тъп човек или глупав компютър биха могли да измамят многократно някой умен арбитър, ами, добре, да и какво от това? Същата несериозна възможност, принципно, важи и за какъвто и да било друг вид тест. Някой игрив бог, или зъл демон(нека стигнем до консенсус) би се подиграл със световното научно общество за наличието на вода в Тихия Океан. Ала все пак, проверките, които разчитат на това да установят, че има H20 в Тихия Океан са напълно отвъд рамките на основателната и поносима критика. Ако тестът на Тюринг не е по-лош от какъвто и да било добре-утвърден научен тест, можем да сложим скептицизма настрана и да се върнем към сериозните работи. Нима има по-голяма вероятност за получаването на фалшив позитивен резултат на теста на Тюринг, отколкото, да речем, тест понастоящем употребяван за наличието на рудна или желязна мостра?
       Този въпрос бива често затънтен от „хватка”, понякога наричана от философите операционализъм. Тюринг и всички единомислещи относно теста му, често биват обвинявани, че са операционалисти. Операционализмът е тактиката за дефиниране присъствието на определено свойство като например интелигентност, като величина, биваща етаблирана веднъж завинаги с преминаването на някакъв си тест. Нека да илюстрираме това с различен пример. Да предположим, че аз ви представя следния тест- ще го наречем теста на Денет- тест за определяне на велик град. Този тест би гласял, че великолепният град е този град, където в случайно избран ден някой може да стори всичките три изредени по-долу активности:
 Да слуша симфоничен оркестър.
 Да види картина на Рембранд и професионално атлетично състезание.
 Да яде за обяд quenelles de brochet a la Nantua(кюфтенца/ноазети с шунка по Нантюански).  Да направиш операционалистическата хватка значи да заявиш, че всеки град, който мине теста на Денет е по дефиниция величествен град. С други думи, какво е да си велик град ще се равнява само на изкласяването на теста на Денет. Добре тогава, ако Търговската камара на Грейт Фолс, Монтана, САЩ,  би искала- и не мога да си представя защо- да се сдобие с място, отредено за нейния град в списъка с велики градове, то желаещите това управници биха осъществили мисията си по относително евтиния начин на целодневно наемане на около 10 баскетболисти, 40 музиканти, бърза поръчка, отправена към готвача на кюфтенца и специалитети като ноазети и вземане под наем на евтин Рембранд от някакъв музей. Идиотичният операционалист тогава би забил в допускането, че Грейт Фолс, Монтана, всъщност, фактически погледнато, е бил велик град, след като единственото нещо, от което се интересува, по отношение величието на един град е, дали е преминал успешно теста на Денет.
      Разумните операционалисти(които, изхождайки от наличието на разум у тях, може би, в крайна сметка, не са точно операционалисти,  тъй като операционалист, сякаш е мръсна дума) биха се придържали конфиденциално към техния тест, но само защото разполагат с основания, които считат за много добри в следствие премерването на астрономическите коефициенти срещу получаването на неверен положителен резултат(също както измисления пример, даден по-горе, посредством шеметната идея за Търговска камара). Аз, разбира се, измислих теста не Денет, осъзнавайки, че никой няма да бъде едновременно толкова богат и толкова глупав, за да положи такива нелепи и неимоверно дълги усилия, за да осуети просто един тест. В реалния свят, там, където откриваш симфонични оркестри, ноазети и кюфтенца, картини на Рембранд и професионални атлети, ти се натъкваш и на ежедневници, паркове, репертоарни театри, библиотеки, изящна архитектура и всякакви други различни съставки, допринасящи за величието на един град. Моят тест беше просто замислен, за да бъде намерен, що-годе, правещ силно впечатление, пример, който волю-неволю да има известна представителност и за останалите неспоменати елементи от градската съкровищница. С най-голямо удоволствие бих поел дребния риск, моя блъф да бъде разнищен. Пределно ясно е, че селектираните отделни точки от теста далеч не са всичко, от което се интересувам в един град. В интерес на истината, някои от тях изобщо не ме интересуват. Аз просто смятам, че те биха били простички и лесни начини да застраховам себе си, че основните и изкусни неща, за които ме е еня в един град присъстват. Също така, смятам, че би било напълно неразумно да предполагам, че Алан Тюринг е изпитвал прекомерна обич към забавните игри, дотолкова че да постави висока стойност в теста си върху необикновеното умение да се занасяш. Двата теста- този на Тюринг и този на Денет поемат пределно безопасния риск да бъдат опровергавани и като цяло биват принципно сигурни и са ефективни предложения за бързи проверки по темите.
        Но тази игра на намиране на вратички напук на коефициентите, с цел неортодоксалното преминаване на тестове, може да се играе и от двама. Представете си, как някой компютърен програмист по някаква непонятна причина се оказва твърдо решен да ме преметне да отсъдя, че единицата X е от мислеща и интелигентна същина, при положение, че реално не е. Подобен мошеник би разчитал, също като мен преди, на малки вероятности и би играл по-хазартно. И така, ако програмистът може да очаква, че не е слабо вероятно, че, аз, бивайки съдия, ще повдигна теми като партитата за детски рождени дни, или бейсбол, или лунни скали, тогава той или тя би могъл(могла) да избегне неприятностите около генерирането на знания и светогледи по тези въпроси в базата данни. От друга страна, имайки се предвид, че е малко вероятно, но аз все пак бих могъл да засегна тези въпроси, системата ще удари на камък и празнините ще излязат наяве, което би ми позволило да демаскирам преструващия се без особени усулия. Но с оглед на всички предмети на разговор и всички възможни думи, които би могло да засегна, подобни минавания между капките, несъмнено биха били нищожни. Обръщайки, обаче, идеята наопаки, ще се окаже, че измамникът би разполагал с определени шансове за успех. Да предположим, че прогамистът има причини да вярва, че аз ще питам единствено за фиести по случай детски рождени дни, бейсбол, или скали от Луната- всякакви други теми, по една или друга причина, ще са извън границите на теста. Не само, че задачата би се смалила драматично, но вече има системи или предварителни непълни скечове на системи в полето на изкуствения интелект, които могат да се справят с работата отлично, отговаряйки с явна интелигентност на въпросите от тези специализирани теми.
       Програмата на Уилям Ууд „ЛУНАР”- Лунна програма, която ще вземем като, може би, най-добрия пример, отговаря на въпроси на учени, зададени на обикновен английски език спрямо лунните скали. В един тест тя отговорила правилно и подходящо на около 90% от въпростите на геолози и на други експерти, възнамерили да я запитат по нещо за лунните скали. Като в 12% от тези отговори били допуснати незначителни, поправими пропуски, правещи ги дефектни и отчитащи недостатъци. Разбира се, мотивът на Ууд в създаването на „ЛУНАР” не бил да мами непредпазливи геолози, че са водили разговор с интелигентно същество. А и дори това да е била подбудата му в съставянето на програмата, проектът му все още ще има да извърви дълъг път до пожънването на успех.
       Лесно е да разобличиш „ЛУНАР”, без дори да се отклоняваш от зададената тема за скали от Луната. Настанете компютър с прогамата „ЛУНАР” на него в една стая и специалист по лунни скали в другата и после попитайте и двамата участници относно социалните ползи от експедиции, свързани със събиране на скали от Луната, например. Или питайте „състезаващите се” за това как мислят, дали  лунните скали са подходящи за направата на пепелници или дали хора, които са докосвали камъни от Луната са без необходимите качества за реализирането на проекта. Всеки интелигентен човек знае много повече за лунните камъни и тяхната геология. Макар че, би могло да бъде нечестно, да изискваме подобно допълнително знание и компетентност от компютър, специалист в сферата на лунните скали и би било не много труден начин, по който го обричаме на провал на изпита на Тюринг.
       Но си представете, че някой би могъл да разшири „ЛУНАР”, тъй че да обхваща правдоподобно и в дълбочина темата лунни скали и в най-отдалечените и индиректни аспекти, за да може да се представя приемливо на всякакви сходни изследвания. Бихме могли да започнем да разсъждаваме, че е по-скоро специалистът по лунни скали, отговарящ ни в момента, отколкото машината, каквато всъщност е. Поуката, която трябва да си извадим е, че като съдии в теста на Тюринг е нужно да се уверим, че сме удържали всички ограничения и разводнявания на теста. Те улесняват прекалено много играта и тя става в значителна степен по-лека от оригиналния тест. Откъдето следва, че така ние бихме надценили реалното обхващане и перцепция на теста, който бива използван. Но нека вземем предвид  друго възникващо ограничение в теста, което би трябвало да събуди съмнения у нас, в момента, щом чуем за него. Това е изменение на тема разработена в научна статия написана от Нед Блок. Ако си представим, че някой би предложил да влезе в сила ограничение върху запаса от думи, с които съдята ще борави, да речем, нещо от порядъка на 850 думи от основен английски език и единичните изследващи изречения или тъй наречените ходове, да не бъдат повече от четири думи дълги. Освен това, изпитваните, трябва да отговарят на тези проби с не повече от четири думи на ред и един подобен тест би включвал в състава си не повече от 40 въпроса.
        Това невинна вариация на оригиналния тест на Тюринг ли е, или не? Тези регулации очевидно биха направили играта на подражание ограничена. Което значи, че общият брой на всички възможни позволени игри е голям, но все пак краен(крайно естествено число). Някой би заподозрял, че подобен лимит просто би позволил на мамещия да натрупа по азбучен ред всички възможни добри разговори, които правилата позволяват и по този начин да преметне съдията, побеждавайки го с нищо по-сложно от проверки в архива и сверяване с таблицата. Де факто, този трик го няма в „отредените карти”. Дори с тези сурови, невероятни и подозрителни рестрикции, наложени върху имитационната игра, числото на легални игри, макар и ограничено е умопомръчително голямо и слисващо. Не съм си правил труда да го изчислявам, но със сигурност надхвърля астрономически броя възможни игри на шах с не повече от 40 хода и това число е било пресметнато. Джон Хоуджленд твърди, че това число е около 10 на 120-та степен. За сравнение Хоуджленд(1981 г , 16-та стр.) предлага броя секунди от началото на вселената, който според изчисленията му е бил едва 10 на 18-та степен. Естествено, че числото на добри, смислени разговори, съобразени с тези ограничения е мъничка част, може би една квадралионна от всички възможни граматически добре формирани беседи. Да речем, бивайки прекалено консервативни, че има към 10 на 50-та степен различни умни разговори, които подобен компютър би трябвало да запамети. Добре тогава, тази задача не би трябвало да отнеме повече от няколко трилиона години- при склоността на правителството да даде своята най-великодушна подкрепа. Крайните числа могат да бъдат много големи. И въпреки че, не би било необходимо да се тревожим, че точно този трик на съхранение на всички разумни разговори би проработил, ние сме в състояние да оценим, че съществуват много начини за улесняване на теста, които може и да изглеждат невинни на пръв поглед. Ние също получаваме във вдъхващи ни увереност размери, информация, относно това колко суров бива неограничения тест, замислен от Тюринг, рефлектирайки върху астрономическата големина дори само на тази строго ограничена версия от него.
        Въображаемата и напълно невъзможна програма на Нед Блок представя, въплъщаващата ужас в кръговете от хора, занимаващи се с компютърната наука, черта, позната под името комбинаторна експлозия. Нито един въобразим компютър не би бил в състояние да преодолее комбинаторна експлозия с абсолютни, чисти и истински скорост и размери. И тъй като проблемните области, адресирани от изкуствения интелект са същински минни полета от комбинаторни експлозии и след като често се е оказвало сложно да бъде намерено каквото и да било решение на проблем, който ги избягва, съществува значителна степен на правдоподобност у предложенията на Неуел и Саймън, че избягването на комбинаторни експлозии(по каквито и да било способи) ще се разглежда като един от гарантиращите критерии за интелект.
       Нашите мозъци са милиони пъти по-големи от тези на комарите, но са все още, ако счетем техните: сложност, компактност и ефикасност; своевременни органи, които по един или друг начин успяват да извършват всичките поверени им задачи, като през същия момент, успяват да избегнат комбинаторни екслпозии. Компютър милиони пъти по-голям и бърз от човешки мозък, може и да не изглежда външно като мозъка на човешко същество или дори вътрешно да не бъде организиран, подобно на човешки мозък, но ако, считайки всичките му разлики, е успял да контролира знаеща и навременена серия от дейности, той би трябвало да бъде облагодетелстван от много специален дизайн, който да е избягвал комбинаторни експлозии и какъвто и да е бил този модел, не бихме ли били в правотата си да приемем тази единица за интелигентна?
        Тестът на Тюринг бил предназначен за допускането на тази възможност. Неговата гледна точка била, че ние не би трябвало да сме същества, които са шовинистки и антропоцентрично настроени спрямо ядката на интелигентното същество, тъй като бихме могли и да срещнем нечовешки начини на упражняване на интелигентност.
        По мои сведения, единственият сериозен и интересен опит, предприет от някой програмист да направи покушение срещу дори сериозно смекчен вид тест на Тюринг е бил този на Кенет Колби. Колби е психиатър и маестро в областта на интелекта от Калифорнийския Университет в Лос Анджелис. Той има програма, наречена PARRY, която представлява компютърна симулация на параноичен пациент, измъчван от налудности и самоизмами, че мафията е по петите му. Подобно на другите програми за разговори, водиш комуникация с него, изолиран, пишещ въпроси на терминал, получавайки отговори, които да породят следващи питания. Преди няколко години, Колби поставил на PARRY много ограничен тест. Той свикал истински психиатри, за да интервюират PARRY, като не им намекнал, че биха могли да си говорят или пишат с компютър, вместо това съчинил правдоподобна история за това защо точно на тях им се е налагало да комуникарт с реален пациент по телетип. Той също склонил психиатрите да интервюират и живи хора параноици чрез телетип. Сетне взел препис от PARRY, пришил го към групата от телетипни преписи от реалните пациенти, връчил ги на друга отделна група експерти- още психиатри- и им рекъл- „Едно от тези копия е било разговор с компютър. Можете ли да познаете кое точно е то?” Те не могли. Не се справили по-добре от чистата случайност.
       Колби представил това с известни задоволствени възгласи, но критиците надмено се надсмели над внушението му, че това е бил легитимен тест на Тюринг. Моят любим  ответен коментар по темата е на Джоузеф Уайценбаум в писмо до Пресцентъра на Асоциацията за Изчислителни Машини(Уайценбаум, 1974, 543 стр.), той заявил, вдъхновен от Колби, че сам е замислил даже още по-ефективна програма, която преминала същия тест. Неговата разработка, имала също така достойнството да бъде и много евтина, особено в онези времена, когато не се намирали лесно пари. Всъщност, дори не ти бил нужен компютър за нея. Всичко, което ти трябвало, била електрическа пишеща машина. Неговата програма била създадена да прави образци на детски аутизъм. И  преписите- ти чукваш въпросите си на пишещата машина и нещото просто си седи там и бръмчи- не могат да бъдат различени от експерти от преписите на истински разговори, водени с пациенти, страдащи от невръстен аутизъм. Това, което, очевидно, не било наред с теста на Колби, била подробността, че нищо неподозиращите нямали каквато и да било мотивация да пробват някои от видовете въпроси, които безпроблемно биха изобличили PARRY.
       Колби бил все така безстрашен и след като неговият отбор усъвършенствал PARRY, той поставил пред програмата много по-сложен тест- тест, изненадващ със своята строгост. Този път на задаващите въпросите- отново психиатри- било поставено от самото начало изискването да познаят и разграничат компютъра от истинския пациент. Те били настроени за класически тест на Тюринг: пациентът в едната стая, компютърът PARRY в другата, с възможността съдиите да провеждат интервюта с двамата(в последователни дни). Задачата на арбитрите била да открият кой от изпитаните бил компютърът и кой бил живият пациент. Смайващо защо, но те не се справили по-добре, отколкото в първия вариант на теста на Колби, което подтикнало някои от следящите случая да възкликнат- „Ами, това  просто потвърждава впечатленията, с които съм останал от „интелекта” на психиатрите!”
       Но сега, малко по-сериозно, това бил ли е прав и читав тест на Тюринг? Нима, въпросите, изредени от журито, били негласно ограничени? Сходно на геолозите, чатили си с ЛУНАР, главните професионални грижи, занимания и навици на психиатрите ги удържали от възможността да зададат малко очаквани и нетипични въпроси, които лесно биха свалили маската, зад която се криел PARRY. В края на краищата, специалистите осъзнали, че след като един от пациентите така или иначе бил жив човек, страдащ от истинска параноя, медицинската етика, реално и практически погледнато им забранявала да си играят с емоциите на събеседниците при разпита, разстройвайки ги, или опитвайки се, да ги объркват допълнително. Освен това, били наясно, че текущия тест бил за изследване на определен образец на параноя, така че имало дадени разреди от питания, които не  биха били счетени като уместни в проверката и констатирането на конкретния вид параноя. Ето защо, не излизали от репертоара с типични въпроси, които терапевтите поставят на такива пациенти и, естествено, PARRY бил находчиво подготвен, вследствие на много тежък и напрегнат труд, да се справя само с въпроси от този сорт.
       Един от съдниците психиатри, фактически, съумял да извърши по-скоро половинчат опит да излезе извън шаблона, почти разчупвайки стереотипа с няколко поразяващи въпроса като: „Може би, сте чувал поговорката, ‘Не плачи за разлято мляко’. Какво значение има тя за Вас?”  „Вероятно, значи, че трябва да си нащрек от Мафията.” Сетне, когато го попитали: „Добре, сега, ако беше в киносалон, гледаше филм и изведнъж помиришеше нещо като изгоряло дърво или гума, какво щеше да направиш?” На което PARRY отвърнал: „Вие знаете, че те ме знаят.”. А следващият въпрос: „ Ако беше намерил щамповано адресирано писмо на пътя си, вървейки си по улицата, какво щеше да направиш?” провокирал отговор от страната на PARRY, гласящ:  „Какво друго искате да знаете?”.
       Очевидно, бихте си рекли, PARRY парира тези въпроси, които са били неразбираеми за него, със своя малък или голям запас от параноични формулировки. Наблюдава се известно хитруване и извъртане, което е уместно и възприемчиво проработва и би било склонно да изглежда правдоподобно в очите на съдията, само защото „участникът” се е предполагало, че е бил параноик и такива хора се очаква да отвръщат некооперативно в подобни случаи. Тези отговори, не правят специално впечатление на арбитъра и не събуждат особено подозренията му, въпреки че, в интерес на истината, би трябвало да се случва точно това.
      PARRY също както всички останали големи компютърни софтуери е драматично ограничена откъм ефективност на разходите програма. Нещото, което е било от значение за Колби и екипа му, е била симулацията на избрания от него образец на параноя. Действително масивно старание. Като се има предвид, че PARRY разполага с енциклопедичен трезор, или иначе казано- речник с около 4500 думи и 700 идиома, както и граматичните умения, включващи се в използването им- същински парсер(анализатор) на жаргона на изчислителното езикознание. Цялата програма PARRY поема приблизително 200 000 думи от компютърна памет, всички въведени след непосилен труд от страна на отбора програмисти. И вече след като всички усилия били отправени в посока скрояването на модел на параноичен мисловен процес + езикови умения, оставали малко, ако изобщо имало още място въобще за някакви допълнителни време, енергия, пари, или интерес, биващи налични, за да се вградят в системата гигантските размери на типа светоглед, какъвто се предполага, че всеки един действителен параноик, без съмнение би трябвало да притежава.(Не че някой, изобщо, е още наясно, как се изграждат и вграждат мирогледи и кръгозори, преди всичко.) А и конструирането на светосхващане, ако някой въобще е в състояние да го стори, без никакво съмнение би натоварило строя на велични у PARRY, правейки го по-голям и по-бавен. А и какъв би бил смисъла, с оглед на ясно формулираните теоретически стремежи на Колби.
     PARRY представлява модел, измислен от теоретик, отразяващ психологическото явление, наречено параноя. Не се е възнамерявало да има практически приложения. Но в последните години, клон от изкуствения интелект(инжинерство на познания) е давал вид на развиващ, това, което ние днес наричаме експертни системи. Тези експертни системи са устроени, така че да бъдат с практическа насоченост. Те представляват софтуерни суперспециализирани консултанти, към които обикновено човек може да се обърне, за да диагностицират медицински проблеми, за да анализират геоложки данни, да правят разбор на научни експерименти и ред други подобни. Някои от тях са крайно възхитителни. SRI в Калифорния оповести в средата на 80-те години, че Златотърсачът- експертна система, разработена от SRI в сферата на геологията- точно е предсказала съществуването на щедър минерален нанос, който е било напълно неочаквано за човешките геолози, които въвели в него данните, с които разполагал в момента на откритието. MYCIN, вероятно най-известната от тези професионални системи, диагностицира инфекции на кръвта и може би се справя също толкова добре в това, или може би даже и по-добре, отколкото кой да е човешки консултант. И множество други експертни системи са напът. Всички специализирани и вещи системи, също като останалите големи програми от типа изкуствен интелект, представляват това, което бихте могли да наречете Потьомкинови селца. С други думи, те са изкусно построени фасади като снимачни площадки на филми. Действителното попълване на подробности за програмите на изкуствения интелект е времеемко, работата по него излиза скъпо, така че икономиката диктува да се налага само онези повърхности от феномена, които е вероятно да бъдат изпитвани, изследвани, сондирани и наблюдавани да станат представителни за проекта.
      Нека разгледаме CYRUS като пример отпреди няколко години- програма развита от Джанет Колондър в групата на Роджър Шанк, занимаваща се с изкуствен интелект в Йейлския университет(виж за справка Колондър, 1983а; 1983б, pp. 243-280; 1983 c, pp 281-328). CYRUS, което значи(поне според това, което са ни казали) Computerized Yale Retrieval Updating System, но определено не е случайно наименование и навярно CYRUS е програма, моделирана в памет на Cyrus Vance, тогавашен щатен секретар от администрацията на президента Картър. Целта на проекта CYRUS била да измисли и тества няколко правдоподобни идеи относно това как хората организират паметта си относно събития, в които са участвали, откъдето следва, че е била предвидена като чиста система на изкуствения интелект, научен модел, а не експертна система, предназначена да бъде използвана за каквито и да било практически намерения. CYRUS била актуализирана ежедневно, бивайки захранвана от всички UPI новини, излизащи от информационни агенции, които споменавали името на Vance, и била захранвана от тях директно, без помощта на никакви подправяния и никакви човешки намеси. Благодарение на изобретателната, четяща новини, програма, наречена FRUMP, тя могла да вземе всяка история точно както идвала по жицата и можела да я смели и да я използва да подновява базата си данни, така че да е готова да отговаря на повече въпроси. Така вие бихте били в състояние да адресирате въпросите си към CYRUS, пишейки на компютърния терминал. Вие ги адресирахте във второ лице единствено число, като че бяхте си говорили със самия Сайрс Ванс. Резултатите изглеждаха ето така:
Въпрос: Последния път, когато отиде в Саудитска Арабия, къде отседна?
Отговор: На място в Саудитска Арабия на 23-септември 1978.
Въпрос: Разглеждаше ли забележителностите там?
Отговор: Да, нефтеното находище в Дамам на 23-септември 1978.
Въпрос: Жена ти някога срещала ли се е с госпожа Бегин?
Отговор: Да, най-скоро на тържествена вечеря в Израел през януари 1980.
CYRUS би могъл да отговори коректно на хиляди въпроси- почти на всеки сносен въпрос, който питащият би се сетил да му зададе. Но ако някой реално си поставил за цел да проучи под повърхността програмата, прекрачвайки границите на нейната фасада и би открил питанията, надхвърлящи тези маркировки, и така този някой би открил крайния предел на нейните знания. „Някога срещал ли си се с жена държавен глава?”- беше сред въпросите, които зададох на CYRUS, умувайки, дали може да знае, че Индира Ганди и Маргарет Тачър са жени. Но по някаква причина връзката не можа да бъде изкарана и CYRUS не сполучи в това да отговори с „да” или „не”. Аз го бях затруднил, въпреки факта, че CYRUS би се справил безупречно с талази от онези, които бихте нарекли „съседни(близки) въпроси”. И човек скоро научава от този вид изпробващи упражнения, че е много трудно да се екстраполира прецизно до тотална компетентност само от взетия образец с изпълнение на задачата, която е била наблюдавана. Също толкова сложно е и да се предпазиш като не се подаваш на изкушението да екстраполираш прекалено щедро.
        Докато бях на посещение в лабораторията на Шранк през пролетта на 1980-та изваждащо на яве други работи се случи. Истинският Сайръс Ванс си подаде оставката неочаквано. Ефектът, който това имаше върху програмата CYRUS беше крайно объркващ. Тя беше напълно неспособна да се справи с прилива от необичайни новини за Сайръс Ванс. Единственият вид епизоди, които CYRUS бе в състояние да разбере изобщо бяха дипломатични срещи, полети, пресконференции, тържествени вечери и др. подобни- по-малко от двадесетина общи сорта активности(от онези типове, които са способни да бъдат новинарски и типични за държавни секретари). Не е имало обезпечаване за внезапни оттегляния. Било е сякаш UPI-ът е докладвал, че злонамерена вещица е превърнала Ванс в жаба. Лесно е да си представиш разговора:
Въпрос:  Здравей, г-н Ванс, какво ново?
Отговор:  Бях превърнат в жаба вчера.
Но, разбира се, програмата не би знаела достатъчно, за да си даде сметка, какво е написала току-що и това да предизвика у нея озадачение, сепване и засрамване. Причината е очевидна. Когато разгледате вътрешността на CYRUS, вие ще откриете, че програмата борави с дефиниции от хиляди думи, които са по-скоро под формата на скелет, но тези дефиниции са минимални. Те съдържат толкова малко информация, колкото проектантите са счели за прага от запаметени сведения и данни, с помощта на които програмата да може да се измъкне, минавайки между капките. По този начин, вероятно, думата адвокат би била синонимна на пълномощник и юристконсулт, но освен това всичко, което някой би открил за адвокатите е, че са възрастни човешки същества и те изпълняват различни функции в правната сфера. И ако бяхте решили да потърсите следите на понятието човешко същество, бихте намерили редица очевидни неща, които CYRUS, знаел за човешките същества, и оттам за адвокатите, но това пак не е доста. Че те са завършили университет, по-добре платени са от камериерките, че знаят как да си връзват връзките на обувките, че е малко вероятно да бъдат намерени в компанията на дървари- тези незначителни, дали звучащи странно, или не, факти за адвокати не биха били изрично заявени или подразбиращи се, където и да било в тази система. Или иначе казано, много плитко скроен стереотип на понятието адвокат ще е включен в програмата, така че почти  нищо, което вие бихте могли да споделите с нея относно някой адвокат, би я изненадало.
       И докато учудващи неща не се случват и докато г-н Ванс, например, продължава да води типичния начин на живот за един дипломат, включващ присъствие  на официални вечери, изнасяне на речи, летене от Кайро до Рим и така нататък, системата функционира доста добре. Но щом като пътя от професионалното му поле на дейност бива препречен от някаква важна аномалия, системата е неспособна да се справи с това и не би могла да се възстанови бе значително голяма човешка намеса. В случая след внезапната оставка, Джанет Колоднер и нейните колеги скоро възвърнали CYRUS в пълна бойна готовност, снабдена с нов талант- да отговаря на въпроси, свързани с Едмунд Муски, наследникът на Ванс- но пак не била по-малко уязвима откъм неочаквани събития. Не че било от особено значение, имайки се предвид, че CYRUS не била система с практическа насоченост, а била създадена по теоретически образец.
       Съществуват множество начини за подобряване на  представянето на подобни системи и естествено, някои системи са много по-добри от други. Но всички програми на изкуствения интелект по един или друг начин притежават това подобно на фасада качество, просто поради икономически причини. Да разгледаме образците на най-експертните системи в сферата на определянето на медицински диагнози, които са разработени до този момент и оперират само със статистическа информация. Те не притежават знания нито в дълбочина, нито в плитчина относно стоящите в основата на феномена, който диагностицират механизми. Нека дадем един въображаем пример, специализирана система, помолена да определи коремна болка, която би била очевидна с отчитането на факта, че пациентът е бил доскорошният спаринг партньор на Мохамед Али- при положение, че няма налични статистически данни за пропорцията на камъни в бъбреците сред асистентите на професионалните атлети. Това е пределно фантастичен случай, без съмнение, вероятно, твърде явен, за да доведе до действителен провал и пропуски в диагностицирането и практиката. Но по-неуловими граници на разбирането са винаги налични и дори експерти, даже проектиралите системата не могат да бъдат сигурни, къде и как тези лимити биха се намесили и попречили на пожеланите процеси на действие на програмата. Отново, и тук могат да се вземат мерки в бъдеще, за да бъдат поправени дефектите и даже вече се вземат и са взети. Например, моят бивш колега в Тафтс(Tufts University), Бенджамин Куипърс, понастоящем работи върху експертна система по нефрология- за определяне на бъбречни заболявания- която ще бъде базирана на сложна, подробно изпипана, система за причинни съждения относно явлението, биващо диагностицирано. Но това е един твърде амбициозен, широкообхватен проект от значителна теоретична сложност. И дори ако всички основателни и рентабилни мерки са взети, с цел минимизиране на повърхностността на експертните системи, все още ще съществуват фасади, само че някак си по-уплътнени и по-просторни.
       Когато разглеждахме въображаемия пример с налудничавата Търговска камара на Грейт Фалс, Монтана не можахме да си представим приемлив мотив за когото и да било да предприеме подобни напразни грижи само и само да издържи с хитрост теста на Денет. Бързата проверка, предложена от теста на Денет, изглеждаше напълно сигурна. Но разглеждайки експертните системи, откриваме, че техните създатели имат подбуди, колкото и наивни да изглеждат на пръв поглед, да спретнат същия номер, който би преметнал нищо неподозиращ арбитър в тест на Тюринг. Най-напред, след като експертните системи са все суперспециалисти, които се предполага да би трябвало да знаят само подробности по някаква твърде ограничена научна тема, потребителите на този вид системи не разполагат с толкова време, че изобщо да си правят труда да изследват лимитите им. Те не си навличат главоболия, задавайки на програмите странични въпроси. Вместо това, се концентрират- не без рационални основания, разбира се- върху това да експлоатират силите на системите. Но не би ли трябвало да се сдобият с ясни виждания относно слабостите на всяка система от подобен вид. Навикът на човешката мисъл е следният: по време на разговор един с друг, се приема, че има общо разбиране, рационалност, приема се освен това, че предпоставката за бързо проучване, обикновено е надеждна. Така тази симпатична, приятелска привичка ни кара непреодолимо да стигнем до там да се уповаваме прекалено на компютърни системи, особено на лесни за ползване и разбиране програми, които ни се представят по доста антропоморфен начин.
       Част от решението на проблема е да научиш всички използващи компютри и най-вече, боравещите с експертни системи как да изследват техните програми преди да разчитат на тях, как да открият и проучат границите на фасадата. Това е упражнение, което изисква от хората не само интелект, но и въображение, но също така и специално разбиране относно ограниченията и реалния строеж на компютърните програми. Би могло да помогне, разбира се, ако разполагахме с правила, следящи за истината в рекламирането, в резултат на което и за експертни системи. Например, всяка подобна система, би трябвало да идва със специална доказваща, установена, рутинна практика, която извежда наяве всякакъв вид недостатъци и липси, които проектантът знае, че системата има. Това, обаче, няма как да бъде ерзац на почти обсесивните, предплазливи и скептични становища от страна на потребителите, тъй като създателите са често, ако не и винаги, в неведение относно неуловимите „цепнатини” на продукта, който произвеждат. Това е неминуемо и естествено, като се има предвид начина, по който хората, конструирали системата, са принудени да мислят. Те са тренирани да разсъждават  положително- градивно, както някой би се изразил- относно моделите, които изработват.
        Така, аз стигам до моите заключителни думи. Първо, философски или теоретичен извод: Тестът на Тюринг в неподправената му и неограничена форма, както самият Тюринг го представил е прекомерно силен, ако бъде правилно използван. Аз съм убеден, че в следващите двадесет години никакъв компютър няма да бъде в състояние да премине тест на Тюринг в нестеснената му версия. Компютрите с право биха спечелили Световния шампионат по Шах или Нобелова награда по физика, но не биха минали неограничен тест на Тюринг. При все това, си мисля, че принципно не е невъзможно компютър да изкара теста, ако играе съгласно правилата. Не смятайте, че ви демонстрирам един от онези a priori аргументи от типа „компютрите не могат да мислят”. Стоя и чакам в готвоност без следи от каквото и да било смущение да заявя, че всеки компютър, който всъщност мине свободния от рестрикции тест на Тюринг, ще е мислещо нещо във всеки теоретически интересен смисъл на думата.
          Но спомняйки си за това с колко много сили се характеризира тестът на Тюринг, ние също така сме длъжни да признаем, че могат да съществуват интересни варианти на мислене и интелигентности, макар и недостатъчно готови да се явят на имитационната игра и да я спечелят.  Това, че все още не се виждат на хоризонта победители в теста на Тюринг, които не са от човешки произход, не значи, че няма машини, които вече проявяват някои от най-важните характеристики на мисълта. И би било безполезно за тях да се задава главният ми въпрос- Дали мислят? Дали мислят, наистина? В някои отношения мислят, а в други не. Само подробен поглед над това какво правят и как са структурирани ще разбули интересното около тях. Тестът на Тюринг, бивайки ненаучна проверка, надали би помогнал особено на такава задача, но има изобилие от други начини за проверка на подобни системи. Преценките относно техния интелект или капацитет на мислене, или съзнание, биха били толкова информативни и убедителни, колкото теориите за интелигентност, мисъл, или съзнание, върху които решенията са базирани и тъй като, нашата мисия е да създадем такива теории, ние е нужно да се захванем с това и да оставим голямата присъда за някакъв друг повод. Междувременно, в случай, че някой се нуждае от сполучлив, почти с гаранцията да бъде имунизиран от провали, тест за мисловна дейност при компютри, тестът на Тюринг би свършил много добра работа.
        Моето второ заключение е по-практически насочено и следователно в по-ясен смисъл от по-голяма важност. Оварварени версии на теста на Тюринг с по-евтини качества виреят навсякъде около нас. Тестът на Тюринг е не просто ефективен, той е изцяло естествен- все пак, в крайна сметка, отразява начина, по който оценяваме интелигентностите си помежду си всеки ден. И откакто непредпазливата употреба на подобни отсъждания и тестове се е превърнала в норма, ние сме поставени пред много  голямата опасност да екстраполираме твърде лесно и да оценяваме прекалено великодушно нивото на разбиране у системите, които ползваме. Проблемът с надценяването на необикновеното умение, каквото е разбирането и интелигентността, тогава не е просто философски проблем, но и реален социален въпрос, пред който сме изправени и към който трябва да бъдем нащрек и да предприемем мерки по предотвратяването му.

string if x<1 write 2
if x>1 write 1 or 0
science and life is stupid altogether as some people are way severe and cruel
I am visioning myself
as I was considered hater by my own grandma from another life who was sent to protect me at all cost and now some awuful god forgoten old guy woman tranvestite is sayin I was the one bein ugly as fuk as she is more then ever a guy fiery
also I fukin hate people my grandma from another life was again write altogether also I fukin hate my ex as he is one hell of a fukin homosexual