Современные интерфейсы компьютерной лингвистики
Федеральное государственное автономное образовательное учреждение высшего профессионального образования «Севастопольский государственный университет»
Реферат по дисциплине
«Теория языка»:
Компьютерная лингвистика
Выполнила:
студентка гр. Фил/б-19-1.2
Гаевская Валерия Валерьевна
Проверила:
профессор кафедры "Теория и практика перевода"
Комуцци Людмила Владимировна
г. Севастополь, 2020
Содержание
Введение. 3
1. Определение. 3
2. Компетенции людей в данной сфере. 3
3. Роль компьютерной лингвистики в лингвистических исследованиях. 4
4. Современные интерфейсы компьютерной лингвистики. 7
Заключение. 11
Список литературы.. 11
Введение
В современном обществе важную роль играют автоматизированные информационные технологии. С течением времени их значение непрерывно возрастает. Но развитие информационных технологий происходит весьма неравномерно: если современный уровень вычислительной техники и средств связи поражает воображение, то в области смысловой обработки информации успехи значительно скромнее. Для этого и существует довольно новое отвествление лингвистики – компьютерная лингвистика.
Определение
Компьютерная лингвистика – это достаточно новое направление прикладной лингвистики, ориентированное на использование математических методов (алгоритмов, моделей) и компьютерных инструментов (программ, цифровых баз данных) с целью создания формальных языковых моделей и автоматической обработки естественного языка. В широком смысле всю сферу научной и инженерной деятельности, в которой пересекаются достижения современной лингвистки и цифровые технологии, можно обозначить понятием «компьютерная лингвистика».
|
|
|
Компетенции людей в данной сфере
Выпускники этой программы могут работать в компаниях, разрабатывающих лингвистический софт (программы распознавания речи, автоматической обработки текста, машинного перевода), принимать участие в создании электронных словарей, справочников, энциклопедий, сайтов в Интернете. В качестве крупнейших работодателей в области компьютерной лингвистики выступают такие компании как ПРОМТ, ABBYY, Яндекс и др.
Программа ориентирована прежде всего на студентов и выпускников вузов лингвистических специальностей и направлений (лингвисты-переводчики, филологи, учителя русского языка и иностранных языков, специалисты-международники), но может быть хорошим дополнением к основному образованию для студентов и выпускников инженерных направлений.
Роль компьютерной лингвистики в лингвистических исследованиях
|
|
|
Лингвистические средства, создаваемые и применяемые в компьютерной лингвистике, можно условно разделить на две части: декларативную и процедурную. К декларативной части относятся словари единиц языка и речи, тексты и различного рода грамматические таблицы, к процедурной части – средства манипулирования единицами языка и речи, текстами и грамматическими таблицами. Компьютерный интерфейс относится к процедурной части компьютерной лингвистики.
Успех в решении прикладных задач компьютерной лингвистики зависит, прежде всего, от полноты и точности представления в памяти ЭВМ декларативных средств и от качества процедурных средств. На сегодняшний день необходимый уровень решения этих задач пока еще не достигнут, хотя работы в области компьютерной лингвистики ведутся во всех развитых странах мира (Россия, США, Англия, Франция, Германия, Япония и др.).
Перед компьютерной лингвистикой стоят, прежде всего, задачи лингвистического обеспечения процессов сбора, накопления, обработки и поиска информации. Наиболее важными из них являются:
1. Автоматизация составления и лингвистической обработки машинных словарей;
2. Автоматизация процессов обнаружения и исправления ошибок при вводе текстов в ЭВМ;
|
|
|
3. Автоматическое индексирование документов и информационных запросов;
4. Автоматическая классификация и реферирование документов;
5. Лингвистическое обеспечение процессов поиска информации в одноязычных и многоязычных базах данных;
6. Машинный перевод текстов с одних естественных языков на другие;
7. Построение лингвистических процессоров, обеспечивающих общение пользователей с автоматизированными интеллектуальными информационными системами (в частности, с экспертными системами) на естественном языке, или на языке, близком к естественному;
8. Извлечение фактографической информации из неформализованных текстов.
Подробно остановимся на проблемах, наиболее относящихся к теме исследования.
В практической деятельности информационных центров есть необходимость решения задачи автоматизированного обнаружения и исправления ошибок в текстах при их вводе в ЭВМ. Эта комплексная задача может быть условно расчленена на три задачи – задачи орфографического, синтаксического и семантического контроля текстов. Первая из них может быть решена с помощью процедуры морфологического анализа, использующей достаточно мощный эталонный машинный словарь основ слов. В процессе орфографического контроля слова текста подвергаются морфологическому анализу, и если их основы отождествляются с основами эталонного словаря, то они считаются правильными; если не отождествляются, то они в сопровождении микроконтекста выдаются на просмотр человеку. Человек обнаруживает и исправляет искаженные слова, а соответствующая программная система вносит эти исправления в корректируемый текст.
|
|
|
Задача синтаксического контроля текстов с целью обнаружения в них ошибок существенно сложнее задачи их орфографического контроля. Во-первых, потому, что она включает в свой состав и задачу орфографического контроля как свою обязательную компоненту, а, во-вторых, потому, что проблема синтаксического анализа неформализованных текстов в полном объеме еще не решена.
Задачу семантического контроля текстов с целью обнаружения в них смысловых ошибок следует отнести к классу задач искусственного интеллекта. В полном объеме она может быть решена только на основе моделирования процессов человеческого мышления. При этом, по-видимому, придется создавать мощные энциклопедические базы знаний и программные средства манипулирования знаниями.
Проблема автоматизации индексирования документов и запросов является традиционной для систем автоматизированного поиска текстовой информации. Поначалу под индексированием понимали процесс присвоения документам и запросам классификационных индексов, отражающих их тематическое содержание. В дальнейшем это понятие трансформировалось и термином «индексирование» стали называть процесс перевода описаний документов и запросов с естественного языка на формализованный, в частности, на язык «поисковых образов». Поисковые образы документов стали, как правило, оформляться в виде перечней ключевых слов и словосочетаний, отражающих их тематическое содержание, а поисковые образы запросов – в виде логических конструкций, в которых ключевые слова и словосочетания соединялись друг с другом логическими и синтаксическими операторами.
Важными характеристиками качества поиска информации являются его полнота и точность. Полнота поиска может быть обеспечена путем максимального учета парадигматических связей между единицами языка и речи (словами и словосочетаниями), а точность – путем учета их синтагматических связей. Существует мнение, что полнота и точность поиска находятся в обратной зависимости: меры по улучшению одной из этих характеристик приводят к ухудшению другой. Но это справедливо только для фиксированной логики поиска. Если эту логику совершенствовать, то обе характеристики могут улучшаться одновременно.
Важной и перспективной задачей компьютерной лингвистики является построение лингвистических процессоров, обеспечивающих общение пользователей с интеллектуальными автоматизированными информационными системами (в частности с экспертными системами) на естественном языке или на языке, близком к естественному.
Концептуальный анализ информационных запросов и сообщений состоит в выявлении их понятийной структуры (границ наименований понятий и отношений между понятиями в тексте) и переводе этой структуры на формализованный язык. Он проводится после морфологического и синтаксического анализа запросов и сообщений. Концептуальный синтез сообщений состоит в переходе от представления элементов их структуры на формализованном языке к вербальному (словесному) представлению. После этого сообщениям дается необходимое синтаксическое и морфологическое оформление.
Для машинного перевода текстов с одних естественных языков на другие необходимо располагать словарями переводных соответствий между наименованиями понятий. Знания о таких переводных соответствиях накапливались многими поколениями людей и оформлялись в виде специальных изданий – двуязычных или многоязычных словарей. Для специалистов, владеющих в той или иной мере иностранными языками, эти словари служили ценными пособиями при переводе текстов.
В традиционных двуязычных и многоязычных словарях общего назначения переводные эквиваленты указывались преимущественно для отдельных слов, для словосочетаний – значительно реже. Указание переводных эквивалентов для словосочетаний было более характерно для специальных терминологических словарей.
Например:
1) The bat looks like a mouse with wings – Летучая мышь похожа на мышь с крыльями.
2) Children like to play in the sand on the beach – Дети любят играть в песке на берегу моря.
3) A drop of rain fell on my hand – Капля дождя упала мне на руку.
4) Dry wood burns easily – сухие дрова хорошо горят.
5) He pretended not to hear me – Он делал вид, что не слышит меня.
Здесь английские фразы не являются идиоматическими выражениями. Тем не менее, их перевод на русский язык лишь с некоторой натяжкой можно рассматривать как простой пословный перевод, так как почти все входящие в них слова многозначные. Поэтому здесь обучаемым способны помочь только достижения компьютерной лингвистики.
Современные интерфейсы компьютерной лингвистики
Первые эксперименты по машинному переводу, подтвердившие принципиальную возможность его реализации, были проведены в 1954 г. в Джорджтаунском университете (г. Вашингтон, США). Вскоре после этого в промышленно развитых странах мира были начаты исследования и разработки, направленные на создание систем машинного перевода (систем МП). И хотя с тех пор прошло полстолетия, проблема машинного перевода все еще не решена на должном уровне. Она оказалась значительно сложнее, чем это представляли себе пионеры и энтузиасты МП конца пятидесятых – начала шестидесятых годов прошлого века.
Из достижений компьютерной лингвистики следует выделить, прежде всего, систему под названием RETRANS. Первая промышленная версия этой системы была разработана в 1993 году и стала использоваться в ряде государственных учреждений России, Франции, США и Англии. После этого было создано еще несколько версий системы. До 1998 г. все они были предназначены для работы в среде операционной системы MS DOS, а в 1998-2000 г.г. были адаптированы для операционных систем Windows 9x/NT и различных вариантов UNIX (Linux, Solaris и др.).
В 2001 г. тем же авторским коллективом была разработана новая версия системы фразеологического машинного перевода RETRANS. Эта версия реализована в нескольких модификациях:
1. Система, работающая в среде текстового процессора MS Word-2000.
2. Система, работающая в среде Web-браузера MS Internet Explorer.
3. Система, работающая с любыми Windows-приложениями, способными копировать текст в «Буфер Обмена» (Clipboard).
Первая модификация системы обладает тем достоинством, что человек, имеющий опыт работы с редактором типа Word, может с помощью этой. При этом он может пользоваться всеми возможностями редактора Word.
Вторая модификация системы может служить эффективным средством общения с системой Internet для лиц, знающих русский язык, но не знающих английского, или, наоборот, знающих английский язык, но не знающих русского. Она может также использоваться для перевода любых документов, представленных в виде Web-страниц (например, электронной версии Британской Энциклопедии). При этом во всех случаях сохраняется внешний вид переведенной страницы.
Третья модификация системы может быть полезна при работе с простыми программами типа MS Notepad, MS Wordpad, MS Paint и им подобными, а также при обработке различных электронных форм.
В случае необходимости, на одной ЭВМ могут устанавливаться несколько модификаций системы RETRANS одновременно. При этом ядро процедурных средств и словарные средства системы будут представлены только в одном экземпляре.
Основные политематические машинные словари системы Retrans (русско-английский и англо-русский) включают в свой состав терминологию по естественным и техническим наукам, экономике, бизнесу, политике, законодательству и военному делу.
Кроме основных политематических машинных словарей в состав системы RETRANS входят двенадцать дополнительных тематических словарей, включающих лексику родственных тематик. Эти словари содержат словарные статьи только тех слов и словосочетаний из политематических словарей, которые в рамках каждой тематической группы имеют приоритетные переводные эквиваленты, отличные от приоритетных переводных эквивалентов основных словарей. В дополнительных тематических словарях лексические единицы (слова и словосочетания)могут иметь не более двух переводных эквивалентов (в политематическом словаре их может быть до пяти).
Средства автоматизированного пополнения и настройки машинных словарей, созданные на начальных этапах разработки системы RETRANS, сыграли большую роль в ее дальнейшем развитии. Но опыт практической эксплуатации этой системы выявил необходимость введения некоторых изменений в структуру словарей. Наряду с основными политематическими и дополнительными тематическими словарями системы были введены еще и дополнительные словари пользователей. При этом имелось в виду, что при переводе текстов с одного языка на другой одновременно используются три словаря: основной политематический словарь, один из дополнительных тематических словарей и один из словарей пользователей.
Словарь пользователя (СП) служит для тонкой настройки системы машинного перевода, выполняемой самим пользователем при переводе текстов по конкретной тематике. Кроме того, СП дает возможность использовать при переводе ранее накопленные словарные массивы. В отличие от основного политематического словаря и дополнительных тематических словарей, содержимое которых может изменяться только разработчиками системы машинного перевода, словарь пользователя может создаваться и изменяться пользователем по своему усмотрению.
Тем же авторским коллективом разработана новая версия системы фразеологического машинного перевода, получившая название «система Vista». Эта версия реализована в нескольких модификациях:
1. Система, работающая в среде текстового процессора MS Word 2000 (система Word Vista).
2. Система, работающая в среде Web-браузера MS Internet Explorer5.0 и выше (система Web Vista).
3. Система массового обслуживания, устанавливаемая на сервере IIS 4.0 и выше и используемая в режиме удаленного доступа стандартными Windows-клиентами (например, MS Word, MS Internet Explorer и любыми другими приложениями, способными копировать текст в «Буфер Обмена») на основе протоколаHTTP (т.е. работающая как в среде Internet, так и в среде Intranet).Эта система получила название Net Vista.
4. Система, работающая с любыми Windows-приложениями, способными копировать текст в «Буфер Обмена» (Clipboard). Эта система получила название Clip Vista.
Основные политематические машинные словари системы Vista (русско-английский и англо-русский) включают в свой состав терминологию по естественным и техническим наукам, экономике, бизнесу, политике, законодательству и военному делу.
Кроме основных политематических машинных словарей в состав системы Vista входят двенадцать дополнительных тематических словарей, включающих лексику родственных тематик. Эти словари содержат словарные статьи только тех слов и словосочетаний из политематических словарей, которые в рамках каждой тематической группы имеют приоритетные переводные эквиваленты, отличные от приоритетных переводных эквивалентов основных словарей. В дополнительных тематических словарях лексические единицы (слова и словосочетания)могут иметь не более двух переводных эквивалентов (в политематическом словаре их может быть до пяти).
В составе системы VISTA есть пакет программ, который позволяет обнаруживать редакционные правки, сделанные переводчиком, формировать на их основе словарные статьи и вводить их в дополнительные словари соответствующей тематики. Таким образом, систему машинного перевода можно настраивать на различные предметные области.
Системы фразеологического перевода RETRANS и VISTA следует рассматривать лишь как первые шаги в развитии систем подобного типа. Предстоит еще большая работа по совершенствованию их процедурных и декларативных средств. Особенно трудной является задача создания достаточно мощных фразеологических словарей.
Заключение
Таким образом, в системах автоматической обработки текстовой информации важную роль играет компьютерная лингвистика.
Центральная проблема - моделирования процесса понимания смысла текстов (перехода от текста к формализованному представлению его смысла) и проблема синтеза речи (перехода от формализованного представления смысла к текстам на естественном языке).
Традиционные методы преодоления языковых барьеров – это обучение иностранным языкам и переводческая деятельность. Но с ростом экономических, политических и культурных связей между странами и повышением интенсивности информационных потоков между ними эти методы становятся недостаточными. Возникла необходимость искать альтернативные пути решения проблемы. И одним из них может явиться создание систем фразеологического машинного перевода.
Список литературы
1. Белоногов Г.Г., Зеленков Ю.Г., Новоселов А.П., Хорошилов Ал-др А., Хорошилов Ал-сей А. Метод аналогии в компьютерной лингвистике. Сб. «Научно-техническая информация» сер. 2, N 1, ВИНИТИ, 2000 г.
2. Панов Д.Ю., Ляпунов А.А., Мухин И.С. Автоматизация перевода с одного языка на другой: Сессия по научным проблемам автоматизации производства.– М.: изд. АН СССР, 1956.
3. Убин И.И. Современные средства автоматизации перевода: надежды, разочарования и реальность. Сб. «Перевод в современном мире». ВЦП, 2001.
4. https://cosmo.tpu.ru/komputernaa-lingvistika.html
Дата добавления: 2021-02-10; просмотров: 128; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!