2 New Files, Renamed.
This commit is contained in:
parent
0ba9850f10
commit
baef13edde
4 changed files with 38 additions and 1 deletions
|
|
@ -1,115 +0,0 @@
|
|||
library("readxl")
|
||||
library("writexl")
|
||||
library("dplyr")
|
||||
library("xlsx")
|
||||
library("stringi")
|
||||
library("stringr")
|
||||
library("tictoc")
|
||||
library("rlang")
|
||||
|
||||
#Funktionen & Konfiguration einbinden
|
||||
source("sparql.R")
|
||||
source("config/config.R")
|
||||
|
||||
|
||||
### Einlesen ###
|
||||
inDB <- get_current_geoera_lit_db()
|
||||
|
||||
to_replace_original <- read_excel(paste(PFAD_EXCEL, FILENAME_EXCEL, sep=""), sheet = SHEETNAME)
|
||||
to_replace_done <- to_replace_original
|
||||
|
||||
#Erste Schleife über den Spaltenvektor aus der Excel
|
||||
for (spalte_excel in SPALTEN[1]:SPALTEN[length(SPALTEN)]) {
|
||||
|
||||
#Start der Zeitmessung für aktuelle Spalte
|
||||
tic(paste("starte mit Spalte",spalte_excel))
|
||||
|
||||
#Zweite Schleife über die jeweiligen Zeilen des Spaltenvektors
|
||||
for (zeile_excel in 1:nrow(to_replace_original[, spalte_excel])) {
|
||||
|
||||
#Current Excel ist das derzeit behandelte Zitate / Zelle
|
||||
current_excel <- tolower(to_replace_original[zeile_excel, spalte_excel])
|
||||
|
||||
#Falls die aktuelle Zelle leer ist wird die nächste Iteration begonnen um Rechenleistung zu sparen
|
||||
if (is.na(current_excel)) {
|
||||
next
|
||||
}
|
||||
|
||||
#Falls der Inhalt der aktuellen Zelle zu kurz ist wird ebenfalls die nächste Iteration begonnen und der Inhalt gelöscht
|
||||
#der Grund dafür ist, dass es bei sehr wenigen Zeichen (<=THRESHOLD) sehr unwahrscheinlich ist, dass es ein gültiges Vollzitat ist
|
||||
if ((nchar(current_excel) <= THRESHOLD)) {
|
||||
to_replace_done[zeile_excel, spalte_excel] <- ""
|
||||
next
|
||||
}
|
||||
|
||||
#Zerlegt den Zelleninhalt und macht daraus eine Liste "Wort"liste aus alphanumerischen Zeichen, getrennt wird jeweils bei nicht-alphanumischen Zeichen
|
||||
excel_search_all <- unlist(strsplit(gsub("[^[:alnum:] ]", "", current_excel), " +"))
|
||||
#Legt eine Liste aus Zahlen zwischen 1900 & 2099 an, die in der aktuellen Zelle sind. (soll das Jahr der Publizierung finden)
|
||||
#Grund hierfür ist, dass das Jahr ein sehr guter zusätzlicher Indikator ist ob eine Publikation gleich ist
|
||||
excel_search_numbers <- unlist(str_extract_all(current_excel, "(?:19|20)\\d{2}"))
|
||||
|
||||
#Dritte Schleife die über die Vollzitatzeilen (INHALTE_DB) der Datenbank iteriert
|
||||
for (zeile_db in 1:nrow(inDB[, INHALTE_DB])) {
|
||||
|
||||
#aktuell behandeltes Element der Datenbank
|
||||
current_db <- tolower(inDB[zeile_db,INHALTE_DB])
|
||||
|
||||
#Zerlegt den Zelleninhalt und macht daraus eine Liste "Wort"liste aus alphanumerischen Zeichen, getrennt wird jeweils bei nicht-alphanumischen Zeichen
|
||||
db_search_all <- unlist(strsplit(gsub("[^[:alnum:] ]", "", current_db), " +"))
|
||||
|
||||
#Legt eine Liste aus Zahlen zwischen 1900 & 2099 an, die in der aktuellen Zelle sind. (soll das Jahr der Publizierung finden)
|
||||
db_search_numbers <- unlist(str_extract_all(current_db, "(?:19|20)\\d{2}"))
|
||||
|
||||
|
||||
#Initialiersierung der Countvariablen
|
||||
count_all <- 0
|
||||
count_numbers <- 0
|
||||
|
||||
#Initialiersierung der Matchvariablen
|
||||
percent_match_all <- 0.01
|
||||
percent_match_numbers <- 0.01
|
||||
|
||||
#Vierter(a) Schleifendurchlauf - Eruiert welche Elemente des Excel-Vektors im Datenbankvektors sind und zählt diese
|
||||
for (k in 1:length(excel_search_all)) {
|
||||
if (excel_search_all[k] %in% db_search_all) {
|
||||
|
||||
count_all <- count_all + 1
|
||||
}
|
||||
}
|
||||
|
||||
#Vierter(b) Schleifendurchlauf - Eruiert welche Jahre des Excel-Vektors im Jahres-Datenbankvektors sind und zählt diese
|
||||
#Wird nur durchgeführt wenn beide Vektoren gefüllt sind
|
||||
if ((length(db_search_numbers) > 0) && (length(excel_search_numbers) > 0)) {
|
||||
for (l in 1:length(excel_search_numbers)) {
|
||||
if (excel_search_numbers[l] %in% db_search_numbers) {
|
||||
|
||||
count_numbers <- count_numbers + 1
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
#Rechnet aus (in %) wieviele der Wörter gefunden wurden
|
||||
percent_match_all <- count_all / length(excel_search_all)
|
||||
|
||||
#Rechnet aus (in %) wieviele der Jahre gefunden wurden. Überprüfung ob der Excel-Jahresvektor leer ist, um Division durch 0 zu vermeiden
|
||||
if (length(excel_search_numbers) > 0) {
|
||||
percent_match_numbers <- count_numbers / length(excel_search_numbers)
|
||||
}
|
||||
|
||||
#Wenn genug Übereinstimmung gefunden wird, wird das Zitat durch die URI aus der Datenbank ersetzt
|
||||
#Beim Jahr muss die Übereinstimmung höher sein, weil es ein sehr guter Indikator für die gleiche Publikation ist
|
||||
if ((percent_match_all >= MATCH_ALL) && (percent_match_numbers > MATCH_YEAR)) {
|
||||
|
||||
to_replace_done[zeile_excel, spalte_excel] <- str_remove_all(inDB[zeile_db,ID], "[<>]")
|
||||
}
|
||||
|
||||
}
|
||||
}
|
||||
#Ende der Laufzeitberechnung für die erste Schleife (gemacht um abschätzen zu können wie lange ein Durchgang dauert)
|
||||
toc()
|
||||
}
|
||||
|
||||
#Schreibt die Exceldatei ins Outputverzeichnis
|
||||
pfad_output <- paste(PFAD_OUT, "replaced_", format(Sys.time(), "%Y_%m_%d_%H%M%S"), FILENAME_EXCEL, sep="")
|
||||
write_xlsx(to_replace_done, pfad_output)
|
||||
|
||||
Loading…
Add table
Add a link
Reference in a new issue