С.А. Алтынбек, А.М. Абылаева, А.С. Тургинбаева
Ассоциативтiк нейрондық желiнi деректер базасында және сызықтық емес динамикалық нысандарды анықтау үшiн пайдаланудағы зерттеулер
(Л.Н. Гумилев атындағы Еуразия ұлттық университетi, Астана қ, Қазақстан)
Информатиканың жаңа саласы – ДБ-дағы жасырын сызықты емес тәуелдiлiктi (ДБТ – Деректер Базасын Талдау) табу. Оның негiзгi бағыты – алдын ала белгiсiз болын келген ДБ-дағы сақталған ақпараттарды және шешiм қабылдану үдерiсiндегi алынған бiл 2мдердi автоматтандыру.
ДБТ жүйесiнiң негiзгi мiндеттерi болып деректер базасындағы жасырын немесе көзге көрiнбейтiн заңдылықтарды табу мақсатында деректерге талдау жасау болып табылады. Талдау мен деректердi автоматтандырылған интеллектуалды әдiстемелердi анықтауға мүмкiндiк беретiн заңдылықтардың кластерлендiру және болжау қарастырылған.
Жасанды нейрондық желi талданатын реаляциялық деректер базасындағы (ДБ) жазбалар үшiн анықталады. Нейрондық желi оқу барысында оқытылатын деректер базасы және сызықтық емес динамикалық нысандарды анықтау үшiн гносеологиялық модель болып саналады. Осы жолмен алынған модельдi пайдаланушы ДБ-дағы жасырын орналасқан ассоциативтiк байланыстарды болжау және зерттеу үшiн пайдаланады.
Кез келген компания ақпараттық технологияға салған инвестициясынан, шешiм қабылдайтын қызметкерлердiң санының өсуiне байланысты бәсекелестiктен пайда табу үшiн, олар информатиканы н жа на саласы – ДБ-да гы бiлiмнен (ДБТ – Деректер Базасын Талдау) табылған белсендi даму га ынталанады. Оның негiзгi бағыты – алдын ала белгiсiз болын келген ДБ-дағы сақталған ақпараттарды (мысалы, компанияның әрекеттерi туралы) және шешiм қабылдану үдерiсiндегi алын ган бiлiмдердi автоматтандырыл ган iздестiрiулер болып табылады. Мысалы, ДБТ әдiсiмен белгiлi бiр тауарды пайдаланушының профилiн табу, кредиттiк карталармен жұмыс жасауындағы алаяқтықтардың алдын алу немесе қаржы нарығындағы жағдайлардың өзгеруiнiң алдын алуға болады.
ДБТ жүйесiнiң негiзгi мiндеттерi болып деректер базасындағы жасырын немесе көзге көрiнбейтiн заңдылықтарды табу мақсатында деректерге талдау жасау болып табылады.
Талдау мен деректердi автоматтандырылған интеллектуалды әдiстемелердi анықтауға мүмкiндiк беретiн заңдылықтардың бес түрiн б олiп айтуға болады. Оларға жататындар:
ассоциация, тiзбектiлiк, классификация, кластерлендiру және болжау[1]. ДБ-дағы бiлiмдердi анықтау үшiн негiзiнен бес әдiстердi қолданады: ассоциативтiк тәртiптер индукциясы;
шешiмдер ағашы; К- iргелес көршiлер; нейрондық желiлер; генетикалық алгоритмдер[1]. Кей жағдайда олардың комбинациялары да пайдаланылады.
Бұл жұмыстағы ДБ талдау болып ДБ-дағы жасырын заңдылықтарды анықтауға бағытталған шаралар кешенi жатады. Деректердi талдаудың автоматтандырылған интеллектуалды мәселелерiн шешу үшiн жасанды нейронды к желiлер аппараттарын пайдалану қарастырылады. Басқа аумақтағы белгiлi м андермен ассоциативтiк байланыста гы ДБ аумағыны н м анiн анықтаудағы мiндеттердi, басқа да аумақ жинағындағы берiлген м андердi ескере отырып, ДБ аумағындағы мәндер жинағын болжамдау мәселелерiн сапалы шешу де қарастырылады.
Ассоциативтiк жадыға ұқсас жүйе және де талданатын ДБ-дағы ақпараттық мазмұндарды жадыға ауыстырудың формальды тәртiбi арқылы алға қойылған мiндеттердi орындауға болады. Мұнда басқа факторлардың ассоциативтi жүйенiң «кiлт» деп аталынатын жақын мәндерiнiң ассоциативтiлiгi пайдаланылады.
Ассоциативтiк жадыны пайдалануды iске асырудың жолдарының бiрi болып бөлiнген динамикалық жүйенi құру немесе аттракторлары суреттi-бейне болып дискреттiк элементтерден тұратын желi болып табылады (қазiргi кезде режимдердi немесе сәйкес динамикалық жүйелердiң аттракторларынан тұратын нейрондық желiлердi әртүрлi бейненi қабылдау саналады). Мұндай әр суреттiң өзiндiк тартымдылық аумағы болады және де белгiлi бiр суреттi ұсынатын алғышарттардың барлығы тартымдылық аумағының бiрiнде болуы керек.
Эволюция кезiнде уақыт өткен сайын бұл бастапқы құрылым тартымдылық аумағына
жататын жадына сақталған құрылым-аттракторға айналады. Яғни, кейбiр құрылымдардың осындай бөлiнген жүйесi үшiн кiруге бастапқы жағдай жасай отырып, бiз параллель болатын, олардың автоматтандырылған танымдылығын iске асырамыз. Мұндай бөлiнген динамикалық жүйенiң ролiн атқаруды жасанды нейрондық желiге беру ұсынылады. Мұндай модель ретiнде ассоциативтiк жадысы бар динамикалық жүйесiн нақты iске асыруды көздейтiн Хопфилд [2], [3], [4] ұсынған желiнi пайдалануға болады.
Бұл мiндеттердiң факторлық аумағы болып реляциялық деректер базасының мазмұны саналады. Ал реляциялық деректер базасының мазмұны түрiнде берiлген факторлар жинағын ұсыну алға қойылған мiндеттердi орындау үшiн алдын ала жасалынған даярлық болып саналады.
Сонымен қатар құрылымдық қарым қатынастар берiледi және мiндеттер берiлген құрылымдылық аумақтың семантикалық жақындылы гын аны ктауға келiп тiреледi.
Бинарлық жасанды желiлердiң екiлiк векторлармен операциялар жасауға байланысты болғандықтардан, ол векторлардың берiлуiндегi түрлерге келтiру мақсатына сай ағымдағы деректердi қосымша қорытуға талаптар қойылады. Жасанды нейронды желiлерге қажеттi деректер реляциялық базасының аумағын көрсететiн конкатенциялық екiлiк векторлар пайда болады (1 сурет).
Деректер реляциялық базасының әр аумағы сандық және символдық түрлерiнiң бiрiне жатады. Символдық аумақтың мәнi сөздiктiң әр сәйкес аумағына жазылады. Өйткенi ол сөздiктегi мәндердi iздестiру процедурасының тиiмдiлiгiн арттырады, сөздiктегi мәндер түрлендiрiледi, қайталанылатын мәндер жойылады.
Сандық аумақытың мәнi басқаша көрсетiледi. Әр сандық аумақтан (сандық аумаққа даталардың мәндерi де жатады) алынатын мән диапазоны интервалдарға бөлiнедi, ал әр нақты мән өзi жататын интервалдардың мәнiн көрсетедi. Сандық осьтегi нүктенi пайда болған интервал ретiнде көрсетуге болады. Сандық аумақ үшiн жасалынған сөздiктiң аналогы болып интервалдар тiзiмiн жатқызуға болады.
Сурет 1.- Нейрондық желiнiң ДБ құрылымының семантикалық көрсетiлiмi
Сөздiктер мен интервалдар жиынтығы қалыптасқан соң олар кодтандырылады. Яғни, салдарында нейрондық желiдегi мәндер немесе интервалдарды көрсететiн сөздiктегi немесе жиынтықтағы интервалдар мәндерiнiң әрқайсысына сәйкес екiлiк кодтар қойылады. Әр сөздiктер мен жиынтықтар (басқаша айтқанда, әр аумақтар үшiн) үшiн кодтың мөлшерi (кодтың ұзындығы) немесе жиынтықтағы әртүрлi мәндер жиынтығының қуаттылығы және де кодтау әдiстерiмен айқындалады.
Кодтаудың әртүрлi нұсқалары Хопфилд ұсынған нейрондық желiнiң ассоциативтiк жадының жұмыс iстеу сапасына әсер етедi, олар макеттiк модельдеу нәтижелерiмен дәлелденедi. Сөздiктердi қалыптастыру және оларды кодтау нейронды желiлердi оқытудағы даярлық буыны болып саналады. ДБ-дағы әр жазба екiлiк векторлар түрiнде берiледi және формальды нейрондық желiлер арасындағы салмақтық коэффициентiнiң қалыптасуына қатысады. Ал оқытудың өзi Хебб тәртiбiне сәйкес iске асырылады[2].
Хопфилд желiсiнiң құрылымдық түрдегi әртүрлi нұсқасының болуы мүмкiн, бiрақ олар функцияланудағыдан өзгеше болады. Хопфилд моделiнде детерминирленген не/немесе стохастикалық ("жану"имитациясын көрсететiн) түрде iске асырылады. Нейрондық желiнiң функциялануы процесi көп итерацияланған болып саналады. Әр итерацияның екi адымы болады. Олар: нейрон-кандидатты таңдау, таңдалған нейрон кандидаттың жағдайын қалыптастыру.
Стохастикалық функциялану детерминирленгеннен нейрона-кандидатты таңдау әдiсiмен ерекшеленедi. Стохастикалық кандидатты таңдауда қосу кезiнде кездейсоқ сан датчигi арқылы кездейсоқ таңдалған нейронды айтады.
Сонымен қатар, мұнда жағдайдың функциялану процесiнде кейбiр нейрондар талданбай қалу жағдайы да кездесуi мүмкiн. Детерминирленген функциялануда нейрондар өз нөмiрлерiнiң сақталу жағдайында өзгеруiне де кандидат болуы мүмкiн.
ДБ талдау үшiн Хопфилд нейронды желiсiн пайдаланудың келесi буындары болады:
1. Нейронды желiмен жұмыс iстеу үшiн SQL-сұранысты қалыптастыру 2. SQL-сұраныс аумағының мазмұнының сөздiгiн қалыптастыру
3. Нейрондық желiнi оқыту
4. ДБ аумағы мәнiнiң ассоциасын немесе болжамын iздестiру Соңғы буын өз кезегiнде келесi буындарды қарастырады:
1. Сұранысты қалыптастыру
2. Желiнiң кiру векторларын даярлау 3. Нейронды желiнiң функциялану циклi 4. Шығу векторын қалыптастыру
Бiз қарастырып отырған жетiстiктердiң iшiнде негiзгiлерi болып төмендегiлер саналады:
"Бiркелкi келудегi аймақтың iшiнде ассоциацияны болжамдау және табу сияқты мiндеттердi шешудi шектеу
"Келесi модельдеудiң модельденетiн ДБ-да боланы екi ғана тұтас өтудi талап етуiне байланысты мақсат ету арқылы нейронды желiлердi оқыту. Өз кезегiнде ДБ кездесетiн мәндердiң комбинациялары туралы статистиканы жинақтау барысында, iздестiрудiң көпитерациялық күрделi процедурасы кездеседi.
"Мiндеттердi әдеттегi келулер статистикалық жарамсыз болған жағдайда орындау.
Мысалы, талданатын ДБ аз ұқсас жазбадағы сандарды құрайды.
"Ассоциативтiк жадыны құру негiзiнде пайдаланудағы Хопфилд нейрондық желiсiнiң әмбебаптығы.
"Хопфил моделiнiң программалық iске асыруының қарапайымдылығы.
Ұсынылған келулер көп жағдайда деректер базасын талдау үшiн жазылған AnalDB программасында iске асырылады.
Қарастырылатын келесi өзектi мәселенiң бiрi болып нейронды желiнi сызық емес динамикалық нысандарды (СМАС) идентификациялау үшiн пайдалану қарастырылады.
СМАС - СегеbellarModelArticulationController (суставтық регулятордың мозжечкалық моделi) ағылшын сөзiнiң бастапқы әрпiнен тұратын нейронды желiнiң қысқарған аты. Бұл америка ғалымы Альбусом жасаған негiзi нейрофизиологиялық мозжечканың моделiнен тұратын нейронды желi [5], [6]. СМАС алғашқыда робот - манипуляторды басқару үшiн жасалған. Толле және оның әрiптестерi бiрiгiп жасаған жұмыстарында ([7], [8]) бұл нейронды желiнiң нейронды желiнi сызықтық емес динамикалық нысандарды идентификациялау және
басқару үшiн пайдалануға болатынын қарастырды. Бұл нейронды желiнiң жаңа аумақта пайдалануын нақтылап, олар оны AMS (AssociativeMemorySystem) деп атады.
Бұл атау СМАС нейронды желiсiнiң табиғатына нақты сипаттама бередi. Өйткенi, ол тек басқару жүйесi мен робот - манипулятордың ғана ролiн атқарудан басқа күрделi сызықтық емес динамикалық жүйесiнiң моделi ретiнде де пайдаланылды. Оның үстiне СМАС ағылшын атауы бұл нейронды желiде нақты орналасып алды.
СМАС нейрондық желiсiнiң динамикалық процестi басқару жүйесi мен робот - манипулятор басқару жүйесiнде моделдiк және нақты қолдануы оған жақсы мiнездеме бердi [5]. Жалпы бұл жерде желi негiзiнен басқару жүйесiнiң реттеушiсi ретiнде роль атқарады. Мұнда басқару әсерлерiн жағдай векторының функциясы және сызықтық емес динамикалық жүйенi басқаруды анықтайтын ақпараттар сақталады.
СМАС көптеген айнымалылар функциясын жадына сақтау, қалпына келтiру және интерполяциялау үшiн жасалынған. СМАС-та кез келген нейронды желiлер сияқты екi негiзгi ұстанымдағы әртүрлi процестер болады. Олар:
• сәйкес алгоритмдердiң көмегiмен функция мен оның векторлық аргументтерiнiң мәнiн өлшеу арқылы iске асырылатын оқыту процесi;
• Функция мәнiнiң кiрiс векторы арқылы қалпына келтiрiлуi мен бағалануының қалпына келтiрiлуi процесi.
Нейронды желiнiң екi айырмашылық моментi болады. Олар:
• функцияны аргументiнiң мәнi тек дискреттiк мәндердi ғана қабылдайды;
• функция аргументiнiң сызықсыз түрленуi функция мәнiн анықтайтын сандар сақталатын ассоциативтi жады ұяшықтарының адрестерiн есептейтiн алгоритмнiң көмегiмен iске асырылады.
Нейронды желiнiң базистiк функциясы деп әдетте нейронды желi жадына сақтайтын сызықтық комбинациясы функцияларды апроксимациялайтын функцияны айтады [9]. Мұндай функцияларға RBF (Радиалды Базистiк Функция) [9] нейронды желi үшiн құрылымы түрдегi y(x)=f(r), мұнда x-ci евклидтi нормальдi векторы, ал ci - функцияның ортасы деп аталатын кейбiр берiлген вектор.
СМАС нейронды желiсi және оның базистiк функциялары кейбiр әдебиеттерде бинарлық деп аталады [9]. Нейронды желiмен жұмыс iстеудiң бастапқы дерегi ретiнде SQL-сұраныс қызмет атқарады. Көп жағдайда программа Delphi 3.0 и CBuilder 3.0. ортасында iске асырылады.
Сонымен, жақын араларда нейронды желiлер үшiн iске асырылатын есептерге пәндiк аумақтар көбейе түспек. Өйткенi, нейрожелi- қазiргi таңда ол жоғарыда көрсетiлген есептердi шешу үшiн жаңа, икемдi және қуатты құрал болып саналады.
ӘДЕБИЕТТЕР
1. Программы обнаружения знаний - как выбрать? // Банковские технологии июнь/97, C.
91 - 93.
2. Лосутов А. Ю., Михайлов А. С. Введение в синергетику. - М.: Наука,. 1990.
3. Спиновые стекла и нейронные сети. / под ред. Веденова Л. А. - М.: ВИНИТИ - 1990, 384 с.
4. Продукты для интеллектуального анализа данных. // Рынок программных средств
№14,15/97, C. 32 - 33.
5. Albus J.S. A new approach to manipulator control: the cerebellar model articulation controller // ASME Trans., J. Dynamic Systems, Measurement and Control. 1975. V. 97. №3. P. 220-227.
6. Albus J.S. Data storage in the cerebellar model articulation controller (CMAC) // ASME Trans., J. Dynamic Systems, Measurement and Control. 1975. V. 97. №3. P. 228-233.
7. Ersij E., Tolle H. A new concept for learning control inspired by brain theory // Proc. Ninth IFAC World Congress, CityplaceBudapest. 1984. V. 2. P. 1039-1044.
8. Tolle H., Militzer J., Ersu E. ZurLeistungsfahigheit in lernendemRegelungen // Messen, Steuern, Regeln. 1989. V. 3. 98-105.
9. Tolle H., Ersij E. Neurocontrol. Learning control systems unspired by neural architectures and human problem solving strategies. Springer–Verlag, 1992, 211p.
Алтынбек С.А., Абылаева А.М., Тургинбаева А.С.
Исследования использований ассоциативных нейронных сетей в базе данных и определение нелинейных динамических объектов
Новая отрасль информатики - найти скрытую нелинийную зависимость (АБД - анализ базы данных) в БД. Основное направление - автоматизировать сведения, полученные при процессе принятия решения, и информацию, которая в БД изначально была неизвестна.
Основные объязанности системы АБД является анализирование базы с целью нахождения в базе данных скрытых или незаметных закономерностей. Рассмотрена кластеризация и прогнозирование закономерностей, позволяющих анализировать и определять автоматизированно-интеллектуальные методы в базах.
Altynbek C.A., Abylaeva A.M., Turginbaeva A.C.
New direction in computer science - the study of regularities in databases. The main direction is the automation of finding solutions in the accumulated databases.
The primary responsibility of the KDD – KnowledgeDiscoveryinDatabases system is to find implicit patterns in databases and analysis. In this paper the clustering and forecasting patterns based on the analysis capabilities and intellectual methods of automation data.
Редакцияға 15.10.12 қабылданды Басылымға 30.10.12 жiберiлдi