Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Initiele NHR lader #1323

Merged
merged 19 commits into from
May 10, 2022
Merged

Initiele NHR lader #1323

merged 19 commits into from
May 10, 2022

Conversation

puckipedia
Copy link
Contributor

@puckipedia puckipedia commented Feb 28, 2022

Volledige KVK handelsregister API client. Laadt direct naar de staging database, dus moet nog wel door het bestaande laadproces.

CXF gebruikt ipv JAX-WS RI, ivm de specifieke SOAP instellingen die nodig zijn (de wsa:MessageID en wsa:To, dit is veel ingewikkelder op JAX-WS dan op CXF)

Gebruik is een beetje verbose op dit moment, alle waardes (truststore/keystore/database info) worden op de CLI meegegeven.

Successvol getest tegen de KVK API.

JNDI resources/instellingen voor de brmo-service integratie:

  • brmo/nhr/active: Boolean, activeert het ophalen van NHR inschrijvingen
  • brmo/nhr/keystorePath en keystorePassword: String, pad naar de keystore (pkcs12) met het HR certificaat + sleutel (wachtwoord op de keystore en het certificaat moeten hetzelfde zijn)
  • brmo/nhr/truststorePath en truststorePassword: String, zelfde als boven, maar met het certificaat van de KVK.
  • brmo/nhr/endpoint: String, locatie van de HR service. Hangt af van bedrijf/overheid en productie/preproductie. Bijvoorbeeld: https://webservices.preprod.kvk.nl/postbus1
  • brmo/nhr/endpointIsPreprod: Boolean, true als het endpoint verwijst naar een preproductie omgeving.
  • brmo/nhr/secondsBetweenFetches: Integer. Als een waarde (>0) ingesteld is, worden alle vestigingen automatisch elke zoveel seconden opgehaald.

@mprins
Copy link
Member

mprins commented Mar 1, 2022

Er zijn een paar modules die SOAP gebruiken in de brmo:

niet relevant zijn de modules:

Verder wordt oa in de brmo-topnl-loader en op een aantal andere plaatsen jaxb gebruikt, dus opletten met de introductie van xml parsers, bij BAG 2 /en BGT liepen we bijvoorbeeld aan tegen gekke classloader problemen omdat daarin Aalto werd geïntroduceerd.

huidige test data voor integratie tests hebben we in https://github.com/B3Partners/brmo/tree/master/brmo-loader/src/test/resources/nhr-v3 staan, als er mogelijk gevoelige gegevens in staan kun je ze evt door onze bericht-anonimizer heen halen; die verhaspelt alle gevoelige velden in een xml bericht

Copy link
Member

@mprins mprins left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

met mvn dependency:analyze kun je een rapport generenen van de dependencies die gebruikt worden en ook wat er wat kan, dat is niet helemaal waterdicht omdat maven geen rekeing houdt met dynamisch geladen klassen via SPI bijvoorbeeld of andere mechanismen als classpath lookup - bijv. database drivers.

zie ook: https://www.baeldung.com/maven-unused-dependencies

@mprins
Copy link
Member

mprins commented Mar 17, 2022

Kun je deze PR nog even rebasen naar master voordat we er naar gaan kijken morgen? dan is er meer kans op het passeren van de CI

@lgtm-com
Copy link

lgtm-com bot commented Mar 17, 2022

This pull request introduces 2 alerts when merging 7e1b04f into aba940a - view on LGTM.com

new alerts:

  • 2 for Potential input resource leak

@lgtm-com
Copy link

lgtm-com bot commented Mar 18, 2022

This pull request introduces 3 alerts when merging 3df6654 into ab3a893 - view on LGTM.com

new alerts:

  • 3 for Potential input resource leak

@codecov
Copy link

codecov bot commented Mar 18, 2022

Codecov Report

Merging #1323 (a785c0c) into master (9155afa) will decrease coverage by 0.56%.
The diff coverage is 0.00%.

@@             Coverage Diff              @@
##             master    #1323      +/-   ##
============================================
- Coverage     36.11%   35.55%   -0.57%     
- Complexity      808      809       +1     
============================================
  Files           407      410       +3     
  Lines         18854    19160     +306     
  Branches       1885     1912      +27     
============================================
+ Hits           6810     6812       +2     
- Misses        11433    11738     +305     
+ Partials        611      610       -1     
Impacted Files Coverage Δ
.../b3p/brmo/persistence/staging/NHRInschrijving.java 0.00% <0.00%> (ø)
...rmo/service/jobs/GeplandeTakenContextListener.java 0.00% <0.00%> (ø)
...va/nl/b3p/brmo/service/jobs/GeplandeTakenInit.java 0.00% <0.00%> (ø)
...src/main/java/nl/b3p/brmo/service/jobs/NHRJob.java 0.00% <0.00%> (ø)
...nl/b3p/brmo/service/scanner/GDS2OphalenProces.java 0.00% <0.00%> (ø)
...ava/nl/b3p/brmo/service/stripes/NHRActionBean.java 0.00% <0.00%> (ø)
...ain/java/nl/b3p/brmo/schema/ObjectTableWriter.java 68.29% <0.00%> (+0.34%) ⬆️
...o/persistence/SnakeCasePhysicalNamingStrategy.java 100.00% <0.00%> (+7.69%) ⬆️

Continue to review full report at Codecov.

Legend - Click here to learn more
Δ = absolute <relative> (impact), ø = not affected, ? = missing data
Powered by Codecov. Last update 9155afa...a785c0c. Read the comment docs.

@puckipedia puckipedia force-pushed the nhr-loader branch 2 times, most recently from b4a2f65 to 96d7321 Compare March 18, 2022 14:03
@lgtm-com
Copy link

lgtm-com bot commented Mar 18, 2022

This pull request introduces 1 alert when merging 96d7321 into ab3a893 - view on LGTM.com

new alerts:

  • 1 for Incomplete string escaping or encoding

@mprins mprins added this to the 2.3.0 milestone Mar 22, 2022
@puckipedia puckipedia marked this pull request as ready for review May 6, 2022 08:46
Copy link
Member

@mprins mprins left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

  • De upgrade scripts voor 2.3.0-2.4.0 moeten verwijderd worden, deze change komt in versie 2.3.0, 2.4.0 is voorlopig niet voorzien, aanpassingen voor bijv. staging moeten dus in de bestaande 2.2.2-2.3.0 upgrade scripts worden gedaan.

  • Er zijn een flink aantal nieuwe jndi parameters, maar documentatie ontbreekt, graag in de PR Conversation documenteren zodat aan de hand daarvan de installatie handleiding en upgrade instructies aangepast/geschreven kunnen worden.

  • Graag Nederlandstalige (fout)meldingen gebruiken in BRMO

  • Dependencies zijn nog niet opgeruimd (zie ook: Initiele NHR lader #1323 (review) van 1 maart)

    Als ik mvn dependency:analyze draai op de module dan krijg ik de volgende output:

    [WARNING] Used undeclared dependencies found:
    [WARNING]    org.apache.wss4j:wss4j-ws-security-common:jar:2.4.0:compile
    [WARNING]    org.apache.wss4j:wss4j-ws-security-dom:jar:2.4.0:compile
    [WARNING]    org.apache.cxf:cxf-rt-frontend-simple:jar:3.5.0:compile
    [WARNING]    org.apache.cxf:cxf-core:jar:3.5.0:compile
    [WARNING]    jakarta.jws:jakarta.jws-api:jar:2.1.0:compile
    [WARNING]    joda-time:joda-time:jar:2.10.10:compile
    [WARNING]    jakarta.xml.bind:jakarta.xml.bind-api:jar:2.3.3:compile
    [WARNING]    jakarta.xml.ws:jakarta.xml.ws-api:jar:2.3.3:compile
    [WARNING] Unused declared dependencies found:
    [WARNING]    com.fasterxml:aalto-xml:jar:1.3.1:compile
    [WARNING]    org.postgresql:postgresql:jar:42.3.4:compile
    [WARNING]    net.postgis:postgis-jdbc:jar:2021.1.0:compile
    [WARNING]    com.oracle.database.jdbc:ojdbc11:jar:21.5.0.0:compile
    [WARNING]    org.junit.jupiter:junit-jupiter-api:jar:5.8.2:test
    [WARNING]    org.junit.jupiter:junit-jupiter-params:jar:5.8.2:test
    [WARNING]    org.dbunit:dbunit:jar:2.7.3:test
    [WARNING]    org.slf4j:slf4j-reload4j:jar:1.7.36:test
    [WARNING]    org.apache.cxf:cxf-rt-frontend-jaxws:jar:3.5.0:compile
    
    

    dat zijn dus vrijwel allemaal ongebruikte en onnodige dependencies

.github/workflows/linux-oracle.yml Outdated Show resolved Hide resolved
brmo-persistence/db/create-brmo-persistence-sqlserver.sql Outdated Show resolved Hide resolved
brmo-persistence/db/create-brmo-persistence-sqlserver.sql Outdated Show resolved Hide resolved
brmo-persistence/db/drop-brmo-persistence-sqlserver.sql Outdated Show resolved Hide resolved
nhr-loader/pom.xml Outdated Show resolved Hide resolved
nhr-loader/pom.xml Show resolved Hide resolved
nhr-loader/pom.xml Show resolved Hide resolved
nhr-loader/pom.xml Show resolved Hide resolved
pom.xml Outdated Show resolved Hide resolved
@mprins
Copy link
Member

mprins commented May 6, 2022

graag ook rebase naar master branch zodat de security fix voor momentjs erin zit

puckipedia and others added 3 commits May 9, 2022 14:29
@puckipedia
Copy link
Contributor Author

(de windows check lijkt mis te gaan in de GDS2 lader, en dat is niet veroorzaakt door deze PR)

@mprins
Copy link
Member

mprins commented May 10, 2022

(de windows check lijkt mis te gaan in de GDS2 lader, en dat is niet veroorzaakt door deze PR)

wordt opgelost met #1403

@mprins mprins merged commit 350fb04 into B3Partners:master May 10, 2022
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
Projects
None yet
3 participants