Skip to content
No description, website, or topics provided.
C# JavaScript CSS HTML Batchfile
Branch: master
Clone or download
RuslanShpileuski code optimization
fixing tests
creating libreoffice installer
Latest commit 94afcf2 Aug 16, 2019

readme.md

DISCLAIMER

Alpha version. Code was typed fast, streams and async-awaits not used, layers not layered and no optimizations done, long running stuff not in background. Does reflect our ability for work fast, not our ability to code well.

ML/NLP code is not part of this repository.

See presentation in Russian here

Run

dotnet run --launch-profile=src

Build

Works in Visual Studio Code 1.29.1 with plugins:

  • Debugger for Firefox or Debugger for Chrome
  • Omnisharp
  • EditorConfig for VS Code
  • .NET Core Test Explorer
  • npm
  • GitLens — Git supercharged

SDK and runtime

Front

All On Windows 10

All on Ubuntu

  • You already very cool and can resolve all on your own.

Team

https://web.telegram.org/#/im?p=g283474501

Domain

Covenant

See example document

See real covenants in data/ folder.

Main scenario

  • User uploads document
  • Document is parsed
  • Positions of covenants are found
  • Document with highlighted covenants are shown
  • User clicks on covenant
  • Covenant is added to task board
  • Covenant may be acted upon (e.g. set notification)

Similar solutions

Features

  • Suppored uploads: txt, rtf, doc, docx, odt
  • Text only view

Proof of Concept

  • upload pdf
  • allow manual highlight for data collection and tuning
  • show in dashboard; next:allow attach action to dashboard item
  • near native view;

Solution

  • Will store native document to allow download and reparse original. So not client side (fat client) parsing
  • Store document file system to allow command line tools to run upon

Algorithm development

  • Эвристическая модель распознания основана на:
    1. Поиске ключевых слов и их вариаций
    2. Взаимном расположении ключевых слов в структуре документа
    3. Задание веса ключевого слова для типа ковенанты
  • Модель готова к более сложным вероятностым иерархическим эвристикам и к интеграции машинного обучения
  1. нет данных. нет опыта.
  2. общаемся. получаем данные и знание домена. что важно.
  3. просто алгоритм четких совпадений.
  4. общаемся. получаем данные и знание домена. что важно.
  5. строим ручками категории. улучшаем алгоритим простой.
  6. больше эвристик.
  7. корни, спряжения, частичные соответсвия слов.
  8. структура документа важна. вносим эвристики.
  9. вводим возможность настравивать эвристики.
  10. знание предметной области растёт. данных точных больше.
  11. шаги туда сюда. хуже. дерево чёткой логики.
  12. тестовый набор очень хороший готов. юристы разные имеют вид на документы. вносим руками в тесты погрешности.
  13. расстояния, неполные сопадения, очередности, поисковые алгоритмы, lucene. всё руками эвристики.
  14. стало хуже. тестовый есть. сделали лучше.
  15. окей. а можно корни-спряжения-синонимы и всякую похожесть без знаний?
  16. деньги.
  17. word2vec. арендоталель - арендатор ~ помещение - плата.
  18. стало хуже.
  19. меням эвристики.
  20. окей, теперь дерево эвристик, вероятностоное.
  21. а порядок слов важен в предложении? что зачем следует. да. эвристика и вон та статья про обучение порядку на наши примеры.
  22. десятки параметров. туда сюда меняем лучше не становиться.
  23. оптимизация параметров оптимизацией. рандомайз не локальный максимум. машина ищет максимум.
  24. вух. хорошего студента наняли лингвиста. поговорить за язык на языке.
  25. помню егор что то говорил про внимание. хм. а джеф хайукингс говорил про память внимание предсказание последовательности в 2004. и создатели глубоких сетей сказали что в жопе ибо последовательости и время плохо моделируются в 2015.
  26. что то нашли. преминили. нет регрессий.
  27. студент вносит знания языка в эвристки и классический грамматический натуральный язык.
  28. а почему бы нам знания, то есть выходы эвристик промежуточных не подать на сеть.
  29. стало хуже. туда сюда лучше. теперь наконец сеть решает на эвристиках. а не на грязных данных.
  30. NLU? RELR for explainability?

Governance model

  • Input documents and data are closed-proprietary
  • Generated models are closed-proprietary
  • Code is open, but AGPL (or similar, with approciate clause for investor)
  • Code after X(1 year or next release or fail of startup) is under Apache(other?)

Initial Delivery model

  • Online Office (Google, Microsoft) plugin to help detect coventants.
You can’t perform that action at this time.