I documento here l'elenco di alternative per la lettura di file a larghezza fissa in R, oltre a fornire alcuni benchmark per i quali è più veloce.
Il mio approccio preferito è combinare fread con stringi; E 'competitiva come l'approccio più veloce, e ha il vantaggio (IMO) di memorizzare i dati come data.table:
library(data.table)
library(stringi)
col_ends <-
list(beg = c(1, 10, 15, 19, 23, 28, 32, 36,
41, 45, 49, 54, 58),
end = c(9, 14, 18, 22, 27, 31, 35,
40, 44, 48, 53, 57, 61))
data = fread(
"http://www.cpc.ncep.noaa.gov/data/indices/wksst8110.for",
header = FALSE, skip = 4L, sep = "\n"
)[, lapply(1:(length(col_ends$beg)),
function(ii)
stri_sub(V1, col_ends$beg[ii], col_ends$end[ii]))
][ , paste0("V", c(2, 5, 8, 11)) := NULL]
# V1 V3 V4 V6 V7 V9 V10 V12 V13
# 1: 03JAN1990 23.4 -0.4 25.1 -0.3 26.6 0.0 28.6 0.3
# 2: 10JAN1990 23.4 -0.8 25.2 -0.3 26.6 0.1 28.6 0.3
# 3: 17JAN1990 24.2 -0.3 25.3 -0.3 26.5 -0.1 28.6 0.3
# 4: 24JAN1990 24.4 -0.5 25.5 -0.4 26.5 -0.1 28.4 0.2
# 5: 31JAN1990 25.1 -0.2 25.8 -0.2 26.7 0.1 28.4 0.2
# ---
# 1365: 24FEB2016 27.1 0.9 28.4 1.8 29.0 2.1 29.5 1.4
# 1366: 02MAR2016 27.3 1.0 28.6 1.8 28.9 1.9 29.5 1.4
# 1367: 09MAR2016 27.7 1.2 28.6 1.6 28.9 1.8 29.6 1.5
# 1368: 16MAR2016 27.5 1.0 28.8 1.7 28.9 1.7 29.6 1.4
# 1369: 23MAR2016 27.2 0.9 28.6 1.4 28.8 1.5 29.5 1.2
Nota che fread automaticamente strisce spazi iniziali e finali - a volte, questo non è auspicabile, nel qual caso impostare strip.white = FALSE.
Nota anche che ho scelto sep = "\n" per impedire la suddivisione in linea. Se è implementato this issue, avremo un'alternativa più robusta.
potremmo anche hanno iniziato con un vettore di larghezze di colonna ww facendo:
ww <- c(9, 5, 4, 4, 5, 4, 4, 5, 4, 4, 5, 4, 4)
nd <- cumsum(ww)
col_ends <-
list(beg = c(1, nd[-length(nd)]+1L),
end = nd)
e abbiamo potuto scelto le colonne da escludere più robusto utilizzando indici negativi come:
col_ends <-
list(beg = c(1, -10, 15, 19, -23, 28, 32, -36,
41, 45, -49, 54, 58),
end = c(9, 14, 18, 22, 27, 31, 35,
40, 44, 48, 53, 57, 61))
Quindi sostituire col_ends$beg[ii] con abs(col_ends$beg[ii]) e in la riga successiva:
paste0("V", which(col_ends$beg < 0))
Infine, se si desidera che i nomi delle colonne da leggere programatically così, si potrebbe pulire con readLines:
cols <-
gsub("\\s", "",
sapply(1:(length(col_ends$beg)),
function(ii)
stri_sub(readLines(URL, n = 4L)[4L],
col_ends$beg[ii]+1L,
col_ends$end[ii]+1L)))
cols <- cols[cols != ""]
(si noti che la combinazione di questo passo con fread richiederebbe la creazione di una copia della tabella per rimuovere la riga di intestazione e sarebbe quindi inefficiente per i set di dati di grandi dimensioni)
E dare un'occhiata a 'read.fwf' per leggere la correzione di lettura larghezza e larghezza di dati formattati. –
Penso che sia un'idea migliore per elaborare ogni riga. Mescola i caratteri '-' con ''. – Fernando
In alternativa, potresti dire white-space oppure - è solo un carattere, quindi prima sostituisci tutte le occorrenze multiple di uno spazio con un carattere di tabulazione, quindi dividi tutte le voci separate da tabulazioni - o lo spazio bianco. – GitaarLAB