![Page 1: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/1.jpg)
NLU/RG
Константин Соколов
Mathlingvo, СПбГУ, i-Free
Санкт-Петербург, 2013
![Page 2: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/2.jpg)
Пара слов о себе
• Mathlingvo• i-Free Innovations• AINL 2012-2013• СПбГУ• @vtqveant
1
![Page 3: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/3.jpg)
Откуда NLU/RG
• R&D в i-Free Innovations
2
![Page 4: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/4.jpg)
Зачем NLU/RG
• максимально быстро выйти на актуальные проблемы• больше вширь, чем вглубь• одному не разобраться
3
![Page 5: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/5.jpg)
Формат NLU/RG
• Reading Group• чтобы было у кого спросить, если чего сам не понимаешь• ...и рассказать, если знаешь
4
![Page 6: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/6.jpg)
Что такое NLU
• курс в Стенфорде (CS 224U, http://www.stanford.edu/class/cs224u)• несколько учебников ([Allen, Natural Language Understanding, 1994],
[Blackburn, Bos. Representation and Inference for Natural Language, 2006])• что-то вроде NLP• что-то про семантику• гораздо менее понятно, что вообще значит ”понимание” винженерном контексте
5
![Page 7: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/7.jpg)
Что такое актуальное в NLU
• не (обязательно) недавнее• не (обязательно) модное• не (обязательно) революционное• даже не (обязательно) успешное
6
![Page 8: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/8.jpg)
Что такое актуальное в NLU
• пример из прошлого: неевклидова геометрия (”идеиносятся в воздухе”)
• актуальное - это когда ”время пришло”
7
![Page 9: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/9.jpg)
State of the Art в NLP
Прорывы последнего времени:
• Representation Learning• Manifold Learning• Deep Learning• &c.
8
![Page 10: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/10.jpg)
State of the Art в NLP
Почему это модно?
• хорошо работает• можно считать на компьютерах• Big Data• бизнес видит ценность (?)• отвечают (или обещают ответить) на проблему, которая”носится в воздухе”
9
![Page 11: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/11.jpg)
Актуальные проблемы в NLP
• Norvig on Chomsky (http://norvig.com/chomsky.html)• статистические методы vs. ”олдскульная” лингвистика• Возможен ли синтез? Имеет ли он смысл?
10
![Page 12: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/12.jpg)
Программа NLU/RG
Принципы при составлении программы:
• актуальное (не модное, не недавнее, не революционное)• двигаться вширь• просить помощи• искать приложения в конкретных задачах (в научных ипромышленных)
Изначально рассчитывалась на год при еженедельных встречах.
11
![Page 13: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/13.jpg)
Обзор программы
![Page 14: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/14.jpg)
Обзор программы
http://nlu-rg.ru/files/nlu-rg-program.pdf
13
![Page 15: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/15.jpg)
Обзор программы
Основные линии:
• лингвистическая• логическая• инженерная• актуальные проблемы• матметоды
14
![Page 16: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/16.jpg)
Обзор программы
Лингвистическая линия:
• предоставить краткое введение в формальную семантику• закрыть пробелы• ввести основную терминологию• понять проблематику• познакомиться с историческим контекстом• узнать несколько имен
15
![Page 17: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/17.jpg)
Обзор программы
Логическая линия:
• узнать об основных подходах к моделированию семантикиестественных языков
• сформировать четкое представление о сущностисемантики через обращение к теории моделей
• последовательно рассмотреть ряд конструкций,предлагавшихся для моделирования семантики
16
![Page 18: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/18.jpg)
Обзор программы
Инженерная линия:
• рассмотреть ряд практических методов и реализаций изобласти (логического) программирования
• приложение (формальной) семантики к програмированию,обработке и представлению данных
• приложение (логического) программирования к обработкеестественного языка
17
![Page 19: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/19.jpg)
Обзор программы
Актуальные проблемы:
• познакомиться с идеей нахождения представления данныхв структурном (символьном, алгебраическом) виде спомощью машинного обучения.
18
![Page 20: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/20.jpg)
Обзор программы
Матметоды: от понятия множества со структурой к теориитопосов и HoTT.
• где смыкаются логика и геометрия• где встречаются порядок структур и аморфность данных• где одновременно присутствуют высокая сложность ивысокая абстрактность (В. Воеводский)
19
![Page 21: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/21.jpg)
Административное
• порядок встреч: раз в две недели, СПбГПУ• регламент: 1,5 часа, обоснование темы, доклады,обсуждение
• гугл-группа: [email protected]• сайт: http://nlu-rg.ru• wiki, репозитории
20
![Page 22: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/22.jpg)
Слово аудитории
• кто откуда• кто с чем из указанного знаком• кто с чем готов помочь другим разобраться• кто готов программировать и чего хотел бы
21
![Page 23: Natural Language Understanding Reading Group (NLU/RG) Kick-off Meeting](https://reader033.vdocument.in/reader033/viewer/2022060119/5590a1451a28ab0a798b45b9/html5/thumbnails/23.jpg)
Спасибо!