Муурын зулзага дотроо юу бодож байгаагаа хэлээрэй - хар хайрцагны эффект

AI-ийн дэвшилтэт алгоритмууд нь хар хайрцаг (1) шиг үр дүнгээ хэрхэн гарсныг нь илчлэхгүйгээр хаядаг нь зарим нэгний санааг зовоож, заримыг нь бухимдуулж байна.

2015 онд Нью-Йорк дахь Синай уулын эмнэлгийн судалгааны багаас орон нутгийн өвчтөнүүдийн өргөн мэдээллийн санд дүн шинжилгээ хийхдээ энэ аргыг ашиглахыг хүссэн (2). Энэхүү асар том цуглуулгад өвчтөний мэдээлэл, шинжилгээний хариу, эмчийн жор гэх мэт асар их мэдээлэл агуулагддаг.

Эрдэмтэд ажлын явцад боловсруулсан аналитик программыг нэрлэжээ. Энэ нь 700 орчим хүний ​​​​өгөгдлийн талаар сургалт явуулсан. Хүн төрөлхтөнд байдаг бөгөөд шинэ бүртгэлд туршиж үзэхэд өвчнийг урьдчилан таамаглахад маш үр дүнтэй болох нь батлагдсан. Хүний мэргэжилтнүүдийн тусламжгүйгээр тэрээр аль өвчтөн элэгний хорт хавдар гэх мэт өвчинд нэрвэгдэх замдаа байгааг харуулсан хэв маягийг эмнэлгийн бүртгэлээс олж мэдсэн. Мэргэжилтнүүдийн үзэж байгаагаар системийн прогноз, оношлогооны үр ашиг бусад мэдэгдэж буй аргуудаас хамаагүй өндөр байв.

2. Өвчтөний мэдээллийн санд суурилсан эмнэлгийн хиймэл оюун ухааны систем

Үүний зэрэгцээ судлаачид энэ нь нууцлаг байдлаар ажилладаг болохыг анзаарсан. Жишээлбэл, энэ нь хамгийн тохиромжтой болох нь тогтоогдсон сэтгэцийн эмгэгийг хүлээн зөвшөөрөхэмч нарт туйлын хэцүү байдаг шизофрени гэх мэт. Энэ нь гайхалтай байсан, ялангуяа хиймэл оюун ухааны систем зөвхөн өвчтөний эмнэлгийн бүртгэлд үндэслэн сэтгэцийн өвчнийг хэрхэн сайн харж чаддагийг хэн ч мэдэхгүй байсан. Тиймээ, мэргэжилтнүүд ийм үр дүнтэй машин оношилгоочийн тусламжид маш их баяртай байсан ч хиймэл оюун ухаан хэрхэн дүгнэлтэнд хүрч байгааг ойлговол тэд илүү их сэтгэл хангалуун байх болно.

Хиймэл мэдрэлийн эсийн давхарга

Анхнаасаа, өөрөөр хэлбэл хиймэл оюун ухаан гэдэг ойлголт гарч ирсэн тэр мөчөөс эхлэн хиймэл оюун ухааны талаар хоёр үзэл бодол байсан. Эхнийх нь мэдэгдэж буй зарчим, хүний ​​логикийн дагуу сэтгэдэг машинуудыг бүтээх нь хамгийн үндэслэлтэй гэж үзсэн бөгөөд тэдний дотоод үйл ажиллагааг хүн бүрт ил тод болгож байна. Бусад нь машинууд ажиглалт, давтан туршилтаар суралцвал оюун ухаан илүү амархан гарч ирнэ гэж итгэдэг байв.

Сүүлийнх нь ердийн компьютерийн програмчлалыг өөрчлөх гэсэн үг юм. Программист ямар нэг асуудлыг шийдэх команд бичихийн оронд програм үүсгэдэг өөрийн алгоритм түүвэр өгөгдөл болон хүссэн үр дүнд үндэслэн. Хожим нь өнөө үед мэдэгдэж байгаа хамгийн хүчирхэг хиймэл оюун ухааны системүүд болон хувирсан машин сургалтын аргууд нь үнэндээ ... машин өөрөө програмчилдаг.

Энэхүү хандлага нь 60-70-аад оны хиймэл оюун ухааны системийн судалгааны захад хэвээр үлджээ. Зөвхөн өмнөх арван жилийн эхэнд, зарим нэг анхдагч өөрчлөлт, сайжруулалтын дараа, "Гүн" мэдрэлийн сүлжээ автоматжуулсан ойлголтын чадавхи эрс сайжирч байгааг харуулж эхлэв. 

Гүнзгий машин суралцах нь компьютерт хүн шиг бараг л ярьж буй үгийг таньж мэдэх гэх мэт ер бусын чадварыг өгсөн. Энэ бол хугацаанаас нь өмнө програмчлахад хэтэрхий төвөгтэй ур чадвар юм. Машин нь өөрийн "програм" -ыг бий болгох чадвартай байх ёстой асар том мэдээллийн багц дээр сургалт.

Гүнзгий суралцах нь компьютерийн дүрс таних чадварыг өөрчилж, машин орчуулгын чанарыг ихээхэн сайжруулсан. Өнөөдөр энэ нь анагаах ухаан, санхүү, үйлдвэрлэл болон бусад салбарт бүх төрлийн гол шийдвэр гаргахад ашиглагддаг.

Гэсэн хэдий ч энэ бүхэнтэй хамт Та "дотор" хэрхэн ажилладагийг харахын тулд гүнзгий мэдрэлийн сүлжээг хараад зүгээр л харж чадахгүй. Сүлжээний сэтгэхүйн үйл явц нь олон арван эсвэл бүр хоорондоо нягт уялдаатай хэдэн зуун давхаргад зохион байгуулагдсан симуляцийн олон мянган нейронуудын үйл ажиллагаанд шингэсэн байдаг..

Эхний давхарга дахь нейрон бүр нь зураг дээрх пикселийн эрчим гэх мэт оролтыг хүлээн авч, гаралтыг гаргахын өмнө тооцооллыг гүйцэтгэдэг. Тэдгээр нь нарийн төвөгтэй сүлжээгээр дараагийн давхаргын нейронууд руу дамждаг - гэх мэт эцсийн гаралтын дохио хүртэл. Нэмж дурдахад, сургалтын сүлжээ нь хүссэн үр дүнг гаргахын тулд бие даасан нейронуудын хийсэн тооцооллыг тохируулах гэж нэрлэгддэг процесс байдаг.

Нохойн дүрсийг танихтай холбоотой байнга иш татсан жишээн дээр хиймэл оюун ухааны доод түвшний хэлбэр, өнгө гэх мэт энгийн шинж чанаруудыг шинжилдэг. Дээд түвшнийх нь үслэг эдлэл, нүд гэх мэт илүү төвөгтэй асуудлуудыг шийддэг. Зөвхөн дээд давхарга нь бүгдийг нэгтгэж, бүх мэдээллийг нохой гэж тодорхойлдог.

Үүнтэй ижил хандлагыг машиныг өөрөө сурах боломжийг олгодог бусад төрлийн оролтод хэрэглэж болно: яриан дахь үгсийг бүрдүүлдэг дуу авиа, бичмэл текст дэх өгүүлбэрийг бүрдүүлдэг үсэг, үгс, жишээлбэл жолооны хүрд. тээврийн хэрэгсэл жолоодоход шаардлагатай хөдөлгөөнүүд.

Машин юу ч алгасдаггүй.

Ийм системд яг юу болж байгааг тайлбарлахыг оролддог. 2015 онд Google-ийн судлаачид зураг таних гүн гүнзгий сурах алгоритмыг өөрчилсөн бөгөөд ингэснээр зураг дээрх объектуудыг харахын оронд тэдгээрийг үүсгэж эсвэл өөрчилсөн. Алгоритмыг хойш нь ажиллуулснаар тэд шувуу эсвэл барилга байгууламжийг танихын тулд програмын ашигладаг шинж чанаруудыг олж мэдэхийг хүссэн.

Олон нийтэд гарчиг гэж нэрлэгддэг эдгээр туршилтууд нь (3) бүдүүлэг, хачирхалтай амьтад, газар нутаг, дүрүүдийн гайхалтай дүрслэлийг бүтээжээ. Машины ойлголтын зарим нууцыг, тухайлбал, тодорхой хэв маягийг дахин дахин эргүүлж, давтдаг гэх мэтийг нээснээр тэд гүн гүнзгий машин сурах нь хүний ​​ойлголтоос хэр ялгаатай болохыг харуулсан - жишээлбэл, бидний үл тоомсорлодог олдворуудыг өргөжүүлж, хуулбарладаг утгаараа. бидний сэтгэн бодохгүйгээр хүлээн авах үйл явцад . .

3. Төсөлд бий болсон зураг

Дашрамд хэлэхэд, нөгөө талаас эдгээр туршилтууд нь бидний танин мэдэхүйн механизмын нууцыг тайлсан. Машин нь "чухал биш" объектууд дээр давталтыг тэвчээртэй давтаж байхад биднийг ямар нэг зүйлийг шууд ойлгож, үл тоомсорлодог янз бүрийн үл ойлгогдох бүрэлдэхүүн хэсгүүд байдаг гэж бидний ойлголттой байдаг.

Машиныг "ойлгох" оролдлого хийх зорилгоор бусад туршилт, судалгааг хийсэн. Жейсон Йосински тэрээр тархинд гацсан датчик шиг ажилладаг багаж бүтээж, дурын хиймэл мэдрэлийн эсийг онилж, түүнийг хамгийн хүчтэй идэвхжүүлдэг дүрсийг хайж олжээ. Сүүлчийн туршилтаар сүлжээг улаан гараараа "шаагаад" хийсвэр зургууд гарч ирсэн нь системд болж буй үйл явцыг улам нууцлаг болгожээ.

Гэсэн хэдий ч олон эрдэмтдийн хувьд ийм судалгаа нь буруу ойлголт юм, учир нь тэдний бодлоор системийг ойлгох, нарийн төвөгтэй шийдвэр гаргах дээд дарааллын хэв маяг, механизмыг танихын тулд бүх тооцооллын харилцан үйлчлэл гүн мэдрэлийн сүлжээ дотор. Энэ бол математикийн функц, хувьсагчийн аварга том төөрдөг байшин юм. Одоогоор бидний хувьд ойлгомжгүй байна.

Компьютер асахгүй байна уу? Яагаад?

Хиймэл оюун ухааны дэвшилтэт системийн шийдвэр гаргах механизмыг ойлгох нь яагаад чухал вэ? Аль хоригдлуудыг тэнсэн суллах, хэнд зээл олгох, хэн нь ажилд орох боломжтойг тодорхойлох математик загваруудыг аль хэдийн ашиглаж эхэлжээ. Сонирхсон хүмүүс өөр шийдвэр биш яагаад ийм шийдвэр гаргав, түүний үндэслэл, механизм юу вэ гэдгийг мэдэхийг хүсч байна.

Тэрээр 2017 оны XNUMX-р сард MIT технологийн тоймд хүлээн зөвшөөрсөн. Томми Жааккола, MIT профессор машин сургалтын програмууд дээр ажиллаж байна. -.

AI системийн шийдвэр гаргах механизмыг сайтар судалж, ойлгох чадвар нь хүний ​​үндсэн эрх гэсэн хууль эрх зүй, бодлогын байр суурь хүртэл байдаг.

ЕХ 2018 оноос хойш компаниудаас автоматжуулсан системээр гаргасан шийдвэрийн талаар үйлчлүүлэгчдэдээ тайлбар өгөхийг шаардахаар ажиллаж байна. Зар сурталчилгаа үзүүлэх эсвэл дуу санал болгоход шинжлэх ухааныг ашигладаг программууд, вэб сайтууд гэх мэт харьцангуй энгийн мэт системүүдэд ч энэ нь заримдаа боломжгүй байдаг.

Эдгээр үйлчилгээг ажиллуулдаг компьютерууд өөрсдөө программчлаад, бидний ойлгомжгүй арга замаар үүнийг хийдэг... Эдгээр программыг бүтээдэг инженерүүд ч энэ нь хэрхэн ажилладагийг бүрэн тайлбарлаж чадахгүй.