-
Notifications
You must be signed in to change notification settings - Fork 0
Data opschonen
Lijstje van wat ik heb gedaan qua data cleaning. Gooi ik wss nog onder een ander/eigen kopje zodra er genoeg in staat.
Algemeen
β ID
β Ik heb een nieuwe kolom met een ID bij elke rij toegevoegd ('Persoon'), van 1-93.
β Duplicate Entries
β Er zat een duplicate entry op line 68; deze heb ik uit de dataset gehaald.
β Ik heb de kolom 'hoogste bedrag ooit uitgegeven' gesorteerd A-Z om te kijken of er nog meer duplicates in zouden zitten, maar dit was gelukkig niet het geval.
β Daarnaast zijn de entries 11, 58 en 63 OOK hetzelfde, geen idee wie de dataset drie keer in heeft zitten vullen maar ik heb er in ieder geval twee van verwijderd.
β
β
β Om de data te cleanen heb ik de volgende aanpassingen gedaan:
- Waar geen '#' voor stond, heb ik een '#' voor geplaatst.β¨β¨
- Waar een spatie in het antwoord verwerkt zat, heb ik deze uitgehaaldβ¨β¨
- Waar een RGB-kleur ipv HEX is ingevuld, heb ik omgezet naar hexadecimaal.β¨β¨
- Waar alleen een kleur is ingevuld als 'lichtblauw' of 'bruin', heb ik de data vervangen met de bijbehorende algemene hex-kleur volgens de Web Colors standaardenβ¨β¨ β Of het verder met uppercase of lowercase-letters moet, ligt aan de programmeertaal. Voor CSS maakt het momenteel gelukkig geen zak uit dus heb ik daar geen aanpassingen aan gedaan. β
β Hier heb ik de punten (.) vervangen door komma's (,). β
β Ook hier heb ik de punten (.) vervangen door komma's (,) β
- Het antwoord '/' weggehaaldβ¨β¨
- De volledige namen vervangen door hun afkortingen zoals op deze lijst aangeduidβ¨β¨
- Alles wat op 'ben er niet zo mee bezig' neerkomt, vervangen door 'Niet zo mee bezig'.β¨β¨
- Alles wat op 'geen idee' neerkomt, vervangen door 'Geen idee'.β¨β¨
- Alles wat op 'gaat je niets aan/wil ik niet vertellen' neerkomt, vervangen door 'Zeg ik liever niet'.β¨β¨
- 'Geen voorkeur' in hetzelfde format qua capitalsβ¨β¨
β Verder is er door iemand "Optie 17, optie 16" ingevuld, maar kom er niet uit waar dat voor zou moeten staan. Blanco, stemonthouding, geen idee.
Voor zover ik weet is de nummering van de kandidatenlijsten nog niet bekend, maar in 2017 waren het in ieder geval: β
- Forum voor Democratieβ¨β¨
- De BurgerBeweging (19 kieskringen)β¨β¨ β
β
- Bij het antwoord 'anders', data vervangen door het antwoord dat in de volgende vraag gegeven isβ¨β¨
- Antwoorden als 'x' of '-' of 'nvt' eruit gehaaldβ¨β¨
- Overeenkomende/dubbele antwoorden eruit gehaaldβ¨β¨
- "Tech" met Frontend op 1 hoop gegooid, tenzij anders aangegeven (backend bijv wel apart benoemd)β¨β¨
- Lege velden of iets dat op 'nee' neerkomt, vervangen door 'Nee'β¨β¨
- '0' ook vervangen door 'Nee'.β¨β¨
- 'Ja' aan het begin van de zin verwijderen zodat alleen de titel van de baan overblijftβ¨β¨
- Van alles een zelfstandig naamwoord gemaakt (bijv: 'ja, horeca' = 'Horecamedewerker')β¨β¨
- Alles wat op 'bediening' of ' serveerder/serveerster' neerkomt vervangen door: 'Bediende'β¨β¨
- 'Front-end' vervangen door 'frontend'β¨β¨
- 'Winkelbediende' vervangen door 'winkelmedewerker'β¨β¨
β
β
- Alles met 'beide', aangepast naar 'Beide'β¨β¨
- Grammaticale fouten of spelfouten verbeterdβ¨β¨
- Iets met 'Interessant' = 'Interessant'β¨β¨
- Iets met 'Leuk' = Leukβ¨β¨
- Beknopte zinnen van gemaaktβ¨β¨
β
β Hier kan ik sowieso nog wat mee in de categorie 'onzinantwoorden' maar dit is de cleaning voor nu:
β
- '?'. 'geen idee' of iets in die trant, veranderen in 'Weet ik nog niet'β¨β¨
- 'Frontend Developer'-varianten veranderen naar 'Frontend Developer'β¨β¨
- Vormgever etc naar ' Visual Designer'β¨β¨
- 'Webdesign' naar 'Web Designer'β¨β¨
β
β
- '00 naar 0β¨β¨
β
β
- Alles met 'geen' naar 'Geen'β¨β¨
- Hoofdlettersβ¨β¨
- 'h&m divided' naar 'H&M'β¨β¨
- 'Pokemon' naar 'PokΓ©mon'β¨β¨
- 'Addidas' naar 'Adidas'β¨β¨
- 'Ben niet merkengeil' en 'geef ik niets om' naar 'Geen'β¨β¨ β
- Waar geen '#' voor stond, heb ik een '#' voor geplaatst.
- Waar een spatie in het antwoord verwerkt zat, heb ik deze uitgehaaldβ¨β¨
- Waar ipv een '#', een ' stond, vervangen door '#'β¨β¨
- Waar een RGB-kleur ipv HEX is ingevuld, heb ik omgezet naar hexadecimaal.β¨β¨
- Waar alleen een kleur is ingevuld als 'lichtblauw' of 'bruin', heb ik de data vervangen met de bijbehorende algemene hex-kleur volgens de Web Colors standaardenβ¨β¨
- #000 naar #000000β¨β¨ β Of het verder met uppercase of lowercase-letters moet, ligt aan de programmeertaal. Voor CSS maakt het momenteel gelukkig geen zak uit dus heb ik daar geen aanpassingen aan gedaan.
β
β
- 'Anders' uit antwoord verwijderdβ¨β¨
- '6300 minuten per dag' naar '630 minuten per dag' veranderd aangezien er maar 1440 minuten inn een dag zittenβ¨β¨