ads:
UNIVERSIDADE ESTADUAL DO OESTE DO PARANÁ
CENTRO DE CIÊNCIAS EXATAS E TECNOLÓGICAS
PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA AGRÍCOLA
ABORDAGEM DE ESPAÇO DE ESTADOS NO RELACIONAMENTO
ENTRE ATRIBUTOS FÍSICOS DO SOLO E PRODUTIVIDADE DO TRIGO
ADEMIR NATAL CORRÊA
CASCAVEL – Paraná – Brasil
Julho – 2007
ads:
Livros Grátis
http://www.livrosgratis.com.br
Milhares de livros grátis para download.
ads:
ADEMIR NATAL CORRÊA
ABORDAGEM DE ESPAÇO DE ESTADOS NO RELACIONAMENTO
ENTRE ATRIBUTOS FÍSICOS DO SOLO E PRODUTIVIDADE DO TRIGO
Dissertação apresentada ao Programa de Pós-
Graduação em Engenharia Agrícola como
cumprimento parcial aos requisitos para
obtenção do título de Mestre em Engenharia
Agrícola, com área de concentração em
Engenharia de Recursos Hídricos e
Saneamento Ambiental.
Orientadora: Prof
a
. Dr
a
. Maria Hermínia
Ferreira Tavares
Co-orientador: Prof. Dr. Miguel Angel Uribe
Opazo
CASCAVEL – Paraná - Brasil
Julho – 2007
ADEMIR NATAL CORRÊA
“Abordagem de espaço de estados no estudo da relação entre atributos
físicos do solo e produtividade do trigo”
Dissertação apresentada ao Programa de Pós-Graduação “Stricto
Sensu” em Engenharia Agrícola em cumprimento parcial aos requisitos para
obtenção do título de Mestre em Engenharia Agrícola, área de concentração
Engenharia de Recursos Hídricos e Meio Ambiente, aprovada pela seguinte
banca examinadora:
Orientadora: Profª. Drª. Maria Herminia Ferreira Tavares
Centro de Ciências Exatas e Tecnológicas, UNIOESTE
Prof. Dr. Luís Carlos Timm
Departamento de Engenharia Rural, UFPEL
Prof. Dr. Reginaldo Aparecido Zara
Centro de Ciências Exatas e Tecnológicas, UNIOESTE
Cascavel, 16 de julho de 2007.
ii
AGRADECIMENTOS
Aos Professores: Dr. Reginaldo Aparecido Zara, Dr. Deonir Secco,
Dr. Décio Lopes Cardoso, MSc. Jerry Adriani Johann e Dr. Luís Carlos Timm,
pela ajuda, proporcionando-nos informações, orientações e sugestões.
Aos amigos do curso de Mestrado Dione I. C. Milani, Andréia K. Bonini,
Gilberto Comiran e Araceli C. de Marins, que compartilharam seu
conhecimento, tempo e experiência.
Ao meu cunhado Celso Cavalcante, pela sua ajuda e colaboração nos
trabalhos de coleta de amostras e de dados em campo.
Aos funcionários da COODETEC e da UNIOESTE, pela colaboração
quando utilizamos os laboratórios e equipamentos.
Meus agradecimentos especiais à minha orientadora Prof
a
. Dr
a
. Maria
Hermínia Ferreira Tavares e ao meu co-orientador Prof. Dr. Miguel Angel Uribe
Opazo, pela confiança, paciência e pela oportunidade de poder compartilhar de
seus conhecimentos.
Por fim, agradeço a todos que, de alguma forma, ajudaram a realizar
este trabalho.
iii
SUMÁRIO
1 INTRODUÇÃO ................................................................................................. 1
2 REVISÃO BIBLIOGRÁFICA ............................................................................. 3
2.1 CONTEÚDO DE ÁGUA NO SOLO ............................................................... 3
2.2 DENSIDADE DO SOLO ................................................................................ 3
2.3 COMPACTAÇÃO DO SOLO ......................................................................... 5
2.4 RESISTÊNCIA DO SOLO À PENETRAÇÂO ................................................ 6
2.5 POROSIDADE TOTAL DO SOLO ................................................................. 7
2.6 PROCESSO ESTOCÁSTICO ....................................................................... 9
2.6.1 Estacionaridade de Processos Estocásticos ............................................ 10
2.6.2 Processos Markovianos ........................................................................... 10
2.7 VARIABILIDADE ESPACIAL ....................................................................... 11
2.7.1 Geoestatística .......................................................................................... 12
2.7.2 Semivariograma ....................................................................................... 14
2.7.3 Krigagem .................................................................................................. 18
2.8 SÉRIES TEMPORAIS ................................................................................. 20
2.9 AUTOCORRELAÇÃO ESPACIAL ............................................................... 22
2.10 CROSSCORRELAÇÃO ESPACIAL .......................................................... 24
2.11 ESPAÇO DE ESTADOS ........................................................................... 25
2.11.1 Representação de um Modelo em Espaço de Estados .......................... 26
2.11.2 Filtro de Kalman ..................................................................................... 30
2.11.3 Espaço de Estados Segundo SHUMWAY ............................................. 33
2.12 AVALIAÇÃO DO DESEMPENHO DOS MODELOS EM ESPAÇO DE
ESTADOS .................................................................................... 36
3 MATERIAL E MÉTODOS ............................................................................... 37
3.1 LOCALIZAÇÃO E CARACTERIZAÇÃO DA ÁREA EXPERIMENTAL ........ 37
3.2 COLETA DE AMOSTRAS E AQUISIÇÃO DE DADOS .............................. 38
3.2.1 Conteúdo de Água no Solo ..................................................................... 39
3.2.2 Porosidade Total e Densidade do Solo .................................................... 39
3.2.3 Grau de Compactação ............................................................................. 40
3.2.4 Resistência do Solo à Penetração ........................................................... 41
3.2.5 Produtividade do Trigo ............................................................................. 41
3.2.6 Análise dos Dados ................................................................................... 42
4 RESULTADOS E DISCUSSÃO ...................................................................... 44
iv
4.1 ANÁLISE DESCRITIVA E EXPLORATÓRIA DOS DADOS ....................... 44
4.2 AUTOCORRELAÇÃO ................................................................................. 54
4.3 CROSSCORRELAÇÃO ............................................................................... 57
4.4 ANÁLISE GEOESTATÍSTICA ..................................................................... 61
4.4.1 Semivariogramas .................................................................................... 61
4.4.2 Mapas Temáticos ..................................................................................... 65
4.5 ESPAÇO DE ESTADOS ............................................................................. 69
5 CONCLUSÕES .............................................................................................. 76
REFERÊNCIAS ................................................................................................ 78
v
LISTA DE TABELAS
Tabela 1 Precipitação mensal na região de Cascavel nos meses de maio a
outubro de 2006........................................................................... 41
Tabela 2 Estatística descritiva da variável conteúdo de água no solo (US) .....45
Tabela 3 Estatística descritiva da variável porosidade total (PT) (m3 m-3).......47
Tabela 4 Estatística descritiva da variável densidade do solo (DS) (Mg m-3)...48
Tabela 5 Estatística descritiva da variável grau de compactação (GC) (%)......50
Tabela 6 Estatística descritiva da variável resistência do solo à penetração....51
Tabela 7 Estatística descritiva da variável produtividade do trigo (PD) (Mg ha-1)
..................................................................................................... 53
Tabela 8 Equações de espaço de estados da produtividade do trigo usando os
..................................................................................................... 70
LISTA DE FIGURAS
vi
Figura 1 Semivariograma teórico............................................................15
Figura 2 Pontos de coleta de amostras – NEEA............................................... 38
Figura 3 Curva de compactação do solo........................................................... 44
Figura 4 Comportamento de série conteúdo de água no solo ao longo da.......45
Figura 5 Boxplot (a) e histograma (b) com curva normal teórica do conteúdo de
..................................................................................................... 46
Figura 6 Comportamento da série porosidade total do solo ao longo da.......... 46
Figura 7 Boxplot (a) e histograma (b) com curva normal teórica da porosidade
..................................................................................................... 47
Figura 8 Comportamento da série densidade do solo ao longo da transeção.. 48
Figura 9 Boxplot (a) e histograma (b) com curva normal teórica da densidade 49
Figura 10 Comportamento da série grau de compactação do solo ao longo da
..................................................................................................... 49
Figura 11 Boxplot (a) e histograma (b) com curva normal teórica do grau de...50
Figura 12 Comportamento da série resistência do solo à penetração (RSP) ao
..................................................................................................... 51
Figura 13 Boxplot (a) e histograma (b) com curva normal teórica da resistência
..................................................................................................... 52
Figura 14 Comportamento da série produtividade do trigo ao longo da............52
Figura 15 Boxplot (a) e histograma (b) com curva normal teórica da................53
Figura 16 Função de autocorrelação do conteúdo de água no solo................. 54
Figura 17 Função de autocorrelação da porosidade total do solo.....................55
Figura 18 Função de autocorrelação da densidade do solo..............................55
Figura 19 Função de autocorrelação do grau de compactação do solo............56
Figura 20 Função de autocorrelação da resistência do solo à penetração....... 56
Figura 21 Função de autocorrelação da produtividade do trigo........................ 57
Figura 22 Função de crosscorrelação da produtividade do trigo versus .......... 58
Figura 23 Função de crosscorrelação da produtividade do trigo versus........... 58
Figura 24 Função de crosscorrelação da produtividade do trigo versus .......... 59
Figura 25 Função de crosscorrelação da produtividade do trigo versus grau de
..................................................................................................... 60
Figura 26 Função de crosscorrelação da produtividade do trigo versus........... 60
Figura 27 Semivariogramas experimental e teórico do conteúdo de água no...62
Figura 28 Semivariogramas experimental e teórico da porosidade total do solo.
..................................................................................................... 62
vii
Figura 29 Semivariogramas experimental e teórico da densidade do solo....... 63
Figura 30 Semivariogramas experimental e teórico do grau de compactação do
..................................................................................................... 63
Figura 31 Semivariogramas experimental e teórico da resistência do solo à....64
Figura 32 Semivariogramas experimental e teórico da produtividade do trigo..65
Figura 33 Mapa temático do conteúdo de água no solo (kg kg-1).................... 66
Figura 34 Mapa temático da porosidade total do solo (m3 m-3)....................... 67
Figura 35 Mapa temático da densidade do solo (Mg m-3)................................ 67
Figura 36 Mapa temático do grau de compactação do solo (%)....................... 68
Figura 37 Mapa temático da resistência do solo à penetração (MPa).............. 69
Figura 38 Mapa temático da produtividade do trigo (Mg ha-1)..........................69
Figura 39 Função de crosscorrelação do grau de compactação versus .......... 71
Figura 40 Distribuição dos dados observados e dos dados estimados (a) e... 72
Figura 41 Análise de espaço de estados aplicada à produtividade do trigo na.73
Figura 42 Distribuição dos dados observados e dos dados estimados (a)....... 74
Figura 43 Análise de Espaço de Estados aplicada à produtividade do trigo na74
Figura 44 Distribuição dos dados observados e dos dados estimados (a) e.... 75
Figura 45 Análise de espaço de estados aplicada à produtividade do trigo na.75
viii
RESUMO
Este trabalho foi realizado com o objetivo de estudar o relacionamento entre os
atributos físicos do solo e a influência destes na produtividade de trigo. Para
isso, utilizou-se o método de estimação chamado de Modelo de Espaço de
Estados ou modelo de regressão linear dinâmico, comparando-o aos modelos
de regressão simples e múltipla da estatística clássica. Os dados experimentais
foram obtidos em um Latossolo Vermelho-Escuro pertencente ao Núcleo
Experimental de Engenharia Agrícola da Universidade Estadual do Oeste do
Paraná – Campus de Cascavel, em uma área cultivada com trigo. Foram
demarcadas 3 transeções com 97 pontos de amostragem espaçados de 3 m
entre si. A abordagem de Espaço de Estados foi usada para avaliar a
estimativa da produtividade do trigo na posição i, influenciada por medidas da
produtividade do trigo, da densidade do solo, do grau de compactação do solo
e da resistência do solo à penetração na posição i-1, em diferentes
combinações entre as séries de dados dessas variáveis. Com a aplicação da
abordagem de Espaço de Estados, todas as variáveis explicativas utilizadas
apresentaram correlação significativa com a variável dependente: a resistência
do solo à penetração foi o atributo com a melhor correlação, apresentando o
coeficiente de ajuste R
2
igual a 0,849. Os demais atributos tiveram os
coeficientes R
2
em torno de 0,800. Comparando-se com os modelos estáticos
convencionais, o atributo resistência do solo à penetração teve o coeficiente de
ajuste R
2
igual a 0,102 e os demais atributos tiveram os seus coeficientes R
2
abaixo de 0,087, na regressão convencional. Utilizando a metodologia de
Espaço de Estados, as duas combinações que indicaram os melhores
resultados foram a combinação entre produtividade do trigo e resistência do
solo à penetração, que apresentou a melhor estimativa para produtividade do
trigo, com coeficiente R
2
igual a 0,849. A mesma combinação na regressão
convencional resultou em R
2
igual a 0,102. A segunda melhor combinação
ocorreu entre os atributos: produtividade do trigo, grau de compactação do solo
e resistência do solo à penetração, com R
2
igual a 0,836, sendo que a mesma
combinação na regressão clássica teve o coeficiente R
2
igual a 0,217. Com
isso é possível mostrar-se a vantagem da abordagem de Espaço de Estados
em relação a outros métodos de estimativa e previsão para o relacionamento
no sistema solo-planta.
Palavras-chave: Autocorrelação, crosscorrelação, geoestatística, dependência
espacial, filtro de Kalman, regressão linear dinâmica.
ix
STATE-SPACE APPROACH IN THE RELATIONSHIP AMONG SOIL
PHYSICAL ATTRIBUTES AND WHEAT YIELD
ABSTRACT
The objective of this study was to assess the relationship among soil physical
attributes and their influences on wheat yield. For this purpose an estimating
method, called State-Space Model or dynamic linear regression model, was
used and compared to simple and multiple regression models of classical
statistics. Experimental data were obtained at a Rhodic Ferralsol, originated
from UNIOESTE Agricultural Engineering Experimental Nucleus – Cascavel
Campus, in an area where wheat was grown. In this area, 3 equally spaced
transects, with 97 sampling points, 3.0 meters away from each other, were
delimited. The State-Space approach was used to assess wheat yield estimate
on position i, influenced by wheat yield, bulk density, soil compaction degree
and soil resistance to penetration on position i-1 in different combination
between data series of these variables. Applying the State-Space approach, all
the response variables presented significant correlation with the dependent
variable: soil resistance to penetration was the attribute with the best
correlation, presenting R
2
coefficient equal to 0.849. The other attributes had R
2
coefficient of around 0.800. Comparing to conventional static models, soil
resistance to penetration attribute had R
2
coefficient equal to 0.102. The other
attributes had R
2
coefficient
equal or less than 0.087, in conventional regression.
Utilizing the State-Space approach, the two combinations that indicated the best
results were: 1) between wheat yield and soil resistance to penetration that
showed the best estimate to wheat yield with R
2
coefficient equal to 0.849, while
the same combination in conventional regression presented R
2
equal to 0.102;
2) between wheat yield, soil compaction degree and soil resistance to
penetration, with R
2
coefficient equal to 0.836, while the same combination in
classical regression presented R
2
equal to 0.217. Thus, it is possible to show
the advantage of the State-Space approach in relation to other more
conventional regression methods for estimating and forecasting in soil-plant
system relationship.
Keywords: Autocorrelation, crosscorrelation, geostatistics, spatial dependence,
Kalman filter, dynamic linear regression.
x
1 INTRODUÇÃO
O processo de globalização da economia mundial vem impondo a
todos os segmentos produtivos, dentre os quais o setor agrícola nacional, a
obtenção de níveis de competitividade internacionais. Para superar esse
desafio, novos conceitos, métodos e técnicas devem ser incorporados aos
processos produtivos da agropecuária, envolvendo mudanças de atitudes em
relação ao que se pratica hoje. Assim, a agricultura atual necessita do
desenvolvimento de tecnologias que possibilitem a competição de seus
produtos no mercado mundial pelo do aumento da qualidade e da
produtividade, que podem ser obtidos, por exemplo, pelo uso adequado de
insumos agrícolas, da técnica de irrigação e do manejo do solo.
Tanto a variabilidade espacial quanto a variabilidade temporal dos
atributos do solo não devem ser subestimadas, mas incorporadas aos
procedimentos e tecnologias aplicados na agricultura. Cientes deste importante
requisito, já há alguns anos, agricultores estão adotando um novo sistema de
produção, que é a Agricultura de Precisão. O seu principal fundamento é a
aplicação no local correto, no momento adequado, as quantidades de insumo
necessárias à produção agrícola, tanto quanto a tecnologia e os custos
envolvidos no processo o permitam (BALASTREIRE, 2002).
Dada a variabilidade de fatores e parâmetros que podem influenciar a
produção agrícola, a aplicação da Agricultura de Precisão requer um controle e
um monitoramento contínuos da área objeto da pesquisa. Por isso, muitas
vezes é necessário utilizar ferramentas alternativas, que permitam estabelecer
modelos que descrevam melhor a variabilidade espacial dos dados obtidos em
campo. Dentre essas ferramentas, a abordagem de Espaço de Estados pode
ser usada como um recurso útil para a agricultura, em especial para Agricultura
de Precisão (CASSEL; WENDROTH; NIELSEN, 2000).
A metodologia que utiliza os modelos de regressão linear dinâmica,
representados na forma de Espaço de Estados, é um tipo de análise estatística
relativamente recente e não tem sido usada com freqüência para expressar as
relações do sistema solo-planta. Embora introduzida originalmente por Kalman
no ano de 1960, foi somente a partir dos anos 80 que essa metodologia passou
a ser utilizada de forma mais prática na agricultura (TIMM et al., 2004). No
Brasil o seu uso é ainda mais recente, pois somente no final dos anos 1990
surgiram os primeiros trabalhos na área (DOURADO-NETO et al., 1999).
A formulação de Espaço de Estados pode ser usada, como a krigagem
e a co-krigagem, para a interpolação espacial de dados, porém a filosofia que
fundamenta essa metodologia é diferente da utilizada pela Geoestatística. Na
abordagem de Espaço de Estados, não é requerida a condição de
estacionaridade de dados para sua aplicação. A flexibilidade da abordagem de
Espaço de Estados permite o estudo de processos dinâmicos envolvendo
variáveis com tendências de comportamento local e pode fornecer um melhor
entendimento do impacto da variabilidade espacial na produtividade agrícola
(REICHARDT; TIMM, 2004).
Neste trabalho, objetivou-se obter modelos estatísticos pela abordagem
de Espaço de Estados, para estimar a variável produtividade do trigo em
função do conteúdo de água no solo, da porosidade total do solo, da densidade
do solo, do grau de compactação e da resistência do solo à penetração e
compará-los aos modelos de regressão estática da Estatística Clássica.
Para isso, depois da fase experimental, foram realizadas as seguintes
etapas, com os dados obtidos:
1) A análise geral dos dados usando a Estatística Clássica;
2) O estudo da variabilidade e da dependência espacial dos dados
desses atributos por meio da Geoestatística;
3) A verificação da dependência espacial pela autocorrelação e da
crosscorrelação entre os dados, considerando a transeção espacial;
4) A aplicação da abordagem de Espaço de Estados no estudo da
relação entre os dados e comparações dos resultados por meio dos
gráficos e das regressões estáticas e equações de Espaço de
Estados.
2
2
2 REVISÃO BIBLIOGRÁFICA
2.1 CONTEÚDO DE ÁGUA NO SOLO
A água é um dos principais componentes do solo, ocupando
juntamente com o ar, todo o espaço poroso existente. Na ausência da água,
não é possível a vida vegetal ou animal. É ainda a água que governa grande
parte das propriedades físicas, químicas e biológicas do solo. Para um bom
desenvolvimento vegetal, é indispensável a presença de suficiente quantidade
de água no solo (VAN LIER, 2000). Os experimentos têm demonstrado o
marcante aumento da produção agrícola, graças, simplesmente às irrigações
aplicadas em solos com conteúdos deficientes de água (PREVEDELLO, 1996).
A água pode ser encontrada ocupando os vazios do solo ou contida na
estrutura cristalina dos minerais. A água de cristalização dos minerais está, em
geral, fortemente ligada à estrutura cristalina, não podendo ser considerada
como água do solo. Alguns minerais podem liberá-la a baixas temperaturas,
porém, a maioria só a desprende a temperaturas elevadas (KIEHL, 1979).
O conteúdo de água no solo é muito variável e dependente do clima
local, do vento, da temperatura e das chuvas. Por isso, muitas vezes a
determinação desse conteúdo é necessária em vários experimentos em
laboratório e, principalmente, em locais nos quais se usam culturas irrigadas,
sendo útil para determinar o momento da irrigação e a quantidade adequada de
água (AZEVEDO; DALMOLIN, 2004).
2.2 DENSIDADE DO SOLO
A densidade do solo pode ser definida como a relação existente entre a
massa de uma amostra de solo seca em estufa, a 105 °C por 24 horas, e a
soma dos volumes ocupados pelas partículas e pelos poros dessa amostra
(Equação 1):
3
3
Ds =
T
s
V
m
(1)
em que: Ds é a densidade do solo (Mg m
-3
); m
s
é a massa do solo seco (Mg) e
V
T
é o volume total (m
3
).
A densidade, geralmente, aumenta com a profundidade do perfil, pois
as pressões exercidas pelas camadas superiores sobre as camadas
subjacentes provocam o fenômeno da compactação, reduzindo a porosidade
do solo. A movimentação de material fino dos horizontes superiores para os
inferiores, por eluviação, também concorre para reduzir os espaços porosos e
aumentar a densidade dessas camadas (AZEVEDO; DALMOLIN, 2004).
A densidade do solo depende da natureza, das dimensões e da forma
como se acham dispostas as partículas. Nos solos minerais, os valores da
densidade oscilam de 1,1 Mg m
-3
a 1,6 Mg m
-3
e nos solos orgânicos a
densidade pode variar de 0,6 a 0,8 Mg m
-3
(HILLEL, 1998).
A densidade do solo na qual começam a surgir problemas para as
plantas é o ponto em que as raízes não conseguem realizar seu movimento de
crescimento natural, porém não é a mesma densidade para todos os solos.
Solos com densidade de 1,7 a 1,8 Mg m
-3
dificultam a penetração e a
distribuição de raízes e solos argilosos com densidade 1,6 Mg m
-3
e 1,7 Mg m
-3
podem não apresentar raízes (KIEHL, 1979).
O valor encontrado para a densidade do solo representa o seu estado
atual, porquanto pode variar, para mais, por efeito da compactação, ou para
menos, pela incorporação de matéria orgânica. A densidade do solo é uma
informação de valor relativo para certas interpretações, como, por exemplo, a
porosidade total: se dois solos possuírem a mesma densidade de 1,3 Mg m
-3
,
porém, um deles for arenoso, com densidade real 2,65 Mg m
-3
e o outro, rico
em minerais ferruginosos, com densidade 2,9 Mg m
-3
, os volumes de poros
desses solos serão diferentes. Correlacionando-se os valores da densidade
com outras propriedades, pode-se chegar a interpretações de interesses
edafológicos (KIEHL, 1979).
4
4
O conhecimento da densidade do solo permite avaliar propriedades,
como: drenagem, porosidade, condutividade hidráulica, capacidade de
saturação, volume de sedimentação e recomendação de cultivo
(PREVEDELLO, 1996, HILLEL, 1998, SECCO, 2003).
2.3 COMPACTAÇÃO DO SOLO
A compactação é entendida como a ação mecânica pela qual se impõe
ao solo uma redução de seu índice de vazios. Embora seja um fenômeno
similar ao adensamento, no uso destes termos, são dadas conotações
diferentes. No adensamento, a redução de vazios é obtida pela expulsão da
água intersticial, num processo natural, que ocorre ao longo do tempo e que
pode durar centenas de anos. Na compactação a redução ocorre, em geral,
pela expulsão do ar dos poros, num processo artificial de curta duração
(VILAR; BUENO, 1985).
A compactação é um processo no qual ocorre o aumento da densidade
do solo, da sua resistência à penetração e a redução da porosidade total, do
tamanho e da continuidade dos poros. Reduções significativas ocorrem,
principalmente, no volume dos macroporos, enquanto que o volume dos
microporos permanece inalterado (SECCO, 2003).
O aumento da intensidade de uso do solo, a utilização de
equipamentos pesados e, principalmente, operações mecanizadas e pisoteio
animal em condições de umidade inadequada, contribuem para a compactação
do solo. O conteúdo de água no solo é um fator determinante no processo de
compactação, por isso, o estudo da compactação sob vários níveis de umidade
e densidade inicial do solo assume grande importância, a fim de se verificar em
que condições ela ocorre de maneira mais acentuada e qual o comportamento
compressivo em diferentes teores de água, para que se consiga evitá-la
(SILVA; CABEDA, 2006).
Assim, um aumento da densidade do solo em conseqüência de uma
redução no seu volume pode ou não causar compactação adicional. Por isso,
pesquisadores têm encontrado efeitos benéficos ou adversos da compactação
(RAGHAVAN; MICKYES, 1983). Os efeitos benéficos têm sido atribuídos à
melhoria do contato solo-semente e aumento da disponibilidade de água em
5
5
anos secos. Entretanto, a compactação excessiva pode limitar a adsorção e/ou
absorção de nutrientes, infiltração e redistribuição de água, trocas gasosas e
desenvolvimento do sistema radicular, resultando em decréscimo da produção,
aumento da erosão e da energia necessária para o preparo do solo (DIAS
JÚNIOR, 2000).
No estudo da compactação do solo, uma metodologia que pode ser
utilizada é o Ensaio de Proctor Normal - proposto por Ralph R. Proctor, em
1933, para controle da compactação em barragens de terra. Nesse ensaio,
para uma mesma energia de compactação, a densidade do solo depende de
sua umidade no momento da compactação. Colocando em gráfico os valores
do conteúdo de água de acordo com a densidade do solo, obtém-se a curva de
compactação, a partir da qual, no seu ponto de máximo, obtém-se a densidade
do solo máxima e o conteúdo de água ótimo ou crítico de compactação
correspondente (VILAR; BUENO, 1985).
Uma das aplicações deste ensaio tem sido verificar o efeito do grau de
compactação na curva de retenção de água no solo que apresenta uma
estreita relação com a resistência do solo à penetração, que por sua vez, é
uma dos atributos que melhor representa as condições de desenvolvimento
das raízes das plantas. Segundo PEREIRA et al. (2002), o desenvolvimento
radicular pode ser restringido pela elevada resistência do solo associada à sua
compactação.
6
6
2.4 RESISTÊNCIA DO SOLO À PENETRAÇÂO
A resistência do solo à penetração (RSP) é um dos atributos físicos
que apresenta estreita relação com a densidade do solo, com o grau de
compactação, com a porosidade, com o conteúdo de água e com a textura, que
estão diretamente relacionados com o crescimento e desenvolvimento das
plantas. Por isso, o valor da resistência do solo deve ser tal que permita o
crescimento e o desenvolvimento normal das raízes ao longo do perfil do solo.
Valores excessivos de resistência do solo à penetração podem influenciar o
crescimento das raízes em comprimento e diâmetro causando restrição ao
desenvolvimento das partes aéreas da planta e, conseqüentemente, baixa
produtividade (TORMENA et al., 2002).
Pesquisadores como SOANE e VAN OUWERKERK (1994) relatam que
a partir do valor de 2 MPa para a resistência do solo, algumas culturas, como a
soja e o trigo, começam a apresentar problemas no desenvolvimento do
sistema radicular.
A RSP apresenta estreita relação com a densidade do solo e com o
conteúdo de água no solo. Segundo SECCO (2003), para um mesmo solo,
quanto maior for a resistência menor será a macroporosidade, que é o principal
espaço para o crescimento do sistema radicular. No entanto, deve ser levado
em conta que a resistência do solo é mais afetada pela variação do conteúdo
de água no momento da amostragem do que a densidade. Por essa razão,
alguns trabalhos como o de TORMENA et al. (2002), sugerem a densidade do
solo como um parâmetro de referência para caracterizar o efeito da
compactação no desenvolvimento e produtividade de culturas.
Uma das maneiras de se identificar as reais condições do solo, quanto
à compactação decorrente do sistema de manejo utilizado, é pela utilização de
um equipamento chamado penetrômetro de cone. Este equipamento mede a
resistência do solo à penetração, identificando a profundidade da camada
compactada.
A resistência do solo à penetração, usualmente, é medida por meio de
penetrógrafos convencionais para uso agrícola ou de penetrógrafos de
impacto, usados na construção civil. Os penetrógrafos convencionais são
pressionados contra o solo. A resistência ao avanço de sua ponta pode ser lida
7
7
ou registrada por meio de um dinamômetro. O penetrógrafo convencional mede
a resistência estática ou de ruptura, enquanto que o penetrógrafo de impacto
tem características dinâmicas de penetração (TIEPPO, 2004. MILANI, 2005).
Como forma de padronização das leituras, a ASAE (1976) recomenda
uma velocidade de deslocamento constante de 180 cm min
-1
quando a haste
do penetrógrafo é introduzida no solo.
2.5 POROSIDADE TOTAL DO SOLO
A porosidade total de um solo pode ser definida como o volume de
vazios ou de espaços não ocupados pelos componentes orgânicos e
inorgânicos. O arranjo ou a geometria das partículas determinam a quantidade
e a natureza dos poros existentes. As partículas variam em tamanho, forma,
regularidade e tendência de expansão e contração do solo o que confere
diferentes arranjos porosos ao solo. Como conseqüência, os poros diferem
consideravelmente quanto à forma, comprimento, largura, tortuosidade e outras
características. A porosidade é afetada principalmente, pela textura e pela
estrutura de um solo (REICHARDT; TIMM, 2004).
Embora não exista uma linha de demarcação nítida entre os tipos de
poros do solo, costuma-se dividi-los em macroporos e microporos, de acordo
com o diâmetro. Segundo LIBARDI (2005), os macroporos são os poros com
diâmetro maior que 100 µm, os mesoporos são os poros com diâmetro entre
100 µm e 30 µm e os microporos são os poros com diâmetro menor que 30 µm.
Os macroporos permitem a aeração, o fluxo de gases, a infiltração e a
drenagem da água e os microporos são responsáveis pelo armazenamento de
água, que fica restrita ao movimento capilar (MILANI, 2005).
Os solos que tem menor porosidade são os arenosos. Como suas
partículas são predominantemente grandes, a tendência é formar a disposição
piramidal, que tem menor espaço de vazios. Nos solos de textura fina as
partículas não se arranjam de maneira tão compactada e a argila coloidal
contribui para formarem agregados que aumentam a porosidade. Na prática,
raras vezes se encontram solos de textura grosseira com porosidade inferior a
30% ou solos de textura fina com volume total de poros superior a 60%.
8
8
Somente solos ricos em matéria orgânica apresentam porosidade entre 60% e
80%. A matéria orgânica, além de dificultar o arranjo piramidal das partículas é,
por si mesma, um material poroso. Considera-se que, em média, a porosidade
dos solos arenosos varia de 35% a 50% e a dos argilosos de 40% a 60%
(KIEHL, 1979).
A importância da porosidade é ressaltada em Mecânica de Solos, pois,
do volume de poros depende a densidade e a resistência mecânica oferecidas
pelo solo. Para um mesmo solo, quanto mais compactado ou menos poroso
for, maior será a sua resistência à penetração (PEREIRA et al., 2002).
Na agricultura, a porosidade expressa as relações entre as fases
sólida, líquida e gasosa. Daí a importância da distribuição da macroporosidade
e microporosidade nos estudos do armazenamento e movimento da água e do
ar do solo, no desenvolvimento do sistema radicular das plantas, nos
problemas relativos ao fluxo e à retenção de calor e na tenacidade oferecida às
máquinas agrícolas (PREVEDELLO, 1996, SECCO, 2003). A produção
agrícola e a drenagem estão muito correlacionadas com o tamanho e a
distribuição de poros no perfil (AZEVEDO; DALMOLIN, 2004).
O solo ideal tem sido referido como aquele que apresenta 50% de
macroporosidade e 50% de microporosidade. Considerando, porém, que as
raízes podem se desenvolver com porosidade de aeração acima de 10% e que
o conteúdo de água armazenado deve ser maior que o de ar, o solo ideal
passa a ser o que representa um terço de macroporos para dois terços de
microporos. Tais solos garantiriam suficiente aeração, permeabilidade e
capacidade de retenção de água e, conseqüentemente, boa produtividade
(KIEHL, 1979).
9
9
2.6 PROCESSO ESTOCÁSTICO
Quando uma variável Z(t
i
) é aleatória, não é possível prevê-la
perfeitamente e não se sabe o valor dessa variável até que seja observada. Os
métodos estatísticos que geram os valores das variáveis aleatórias da série
temporal ou espacial, Z
1
, Z
2
, ..., Z
n
, com i = 1, 2, ..., n, são chamados de
processos estocásticos e estão sujeitos à lei do acaso e são processos
definidos num mesmo espaço de probabilidades e controlados por leis
probabilísticas (MORETTIN; TOLOI, 2004).
Um processo estocástico é definido como uma coleção de variáveis
aleatórias Z(t
i
) indexadas por um parâmetro t pertencente a um conjunto T, o
qual é considerado como o conjunto dos números inteiros não-negativos e Z(t
i
)
representa uma característica mensurável de interesse no tempo ou espaço.
Processos estocásticos são de interesse para descrever o
comportamento de um sistema operando sobre algum período de tempo ou de
espaço: assim, em termos formais, a variável randômica Z(t
i
) representa o
estado do sistema através do parâmetro t. Portanto, pode-se afirmar que Z(t
i
) é
definido em um espaço denominado de Espaço de Estados (HILL; GRIFFITHS;
JUDGE, 2003).
Os processos estocásticos podem ser classificados de duas maneiras:
a) Em relação ao estado:
- Estado discreto (cadeia): Z(t
i
) é definido sobre um conjunto
enumerável ou finito;
-Estado contínuo (seqüência): Z(t
i
) é definido sobre um conjunto infinito.
b) Em relação ao tempo (Parâmetro):
-Tempo discreto: t é finito;
-Tempo contínuo: t é infinito.
2.6.1 Estacionaridade de Processos Estocásticos
Um processo estocástico é estacionário se sua média e sua variância
são constantes ao longo do tempo ou do espaço. A covariância entre dois
valores depende somente da distância no tempo ou espaço que separa os dois
valores e não dos tempos ou espaços reais em que as variáveis são
10
10
observadas. Portanto, uma série temporal ou espacial é dita estacionária,
quando ela se desenvolve aleatoriamente no tempo ou espaço ao redor de
uma média constante, refletindo alguma forma de equilíbrio estável
(SHUMWAY; STOFFER, 2000, MORETTIN; TOLOI, 2004).
2.6.2 Processos Markovianos
Um processo estocástico é dito ser um processo markoviano se:
P{Z(t
k+1
)≤ z
k+1
Z(t
k
) = z
k
,Z(t
k-1
)= z
k-1
,...,Z(t
1
) = z
1
,Z(t
0
) = z
0
} = P{Z(t
k+1
)≤ z
k+1
Z(t
k
) = z
k
} (2)
Para t
0
≤ t
1
≤ ... t
k
≤ t
k+1
= 0,1,... e toda seqüência k
0
, k
1
,..., k
t-1
, k
t
, k
t+1
.
A equação 2 pode ser assim traduzida: a probabilidade condicional de
qualquer evento futuro, dado qualquer evento passado e o estado presente
Z(t
k
) = z
k
, é independente do evento passado e depende somente do estado
presente. Esse tipo de processo estocástico é, também, chamado de processo
sem memória, pois o evento passado é esquecido ou descartado. O estado de
um evento futuro só depende de seu estado atual.
As probabilidades condicionais P{Z(t
k+1
) = z
k+1
Z(t
k
) = z
k
} são
denominadas probabilidade de transição e representam, a probabilidade do
estado Z(t
k+1
) ser z
k+1
no instante t
k+1
dado o estado Z(t
k
) e z
k
no instante t
k
(HILL;
GRIFFITHS; JUDGE, 2003).
As séries geradas por processos markovianos são aquelas obtidas
pelos chamados passeios aleatórios. Essas séries são chamadas de passeios
aleatórios, porque os valores, em cada instante ou ponto, variam lentamente
para cima e/ou para baixo, sem que haja um padrão previsível de
comportamento (MORETTIN; TOLOI, 2004).
2.7 VARIABILIDADE ESPACIAL
Até recentemente, pesquisadores ligados à área agronômica
estudavam a variabilidade dos atributos do solo por meio da estatística clássica
(análise de variância, média, coeficiente de variação, análise de regressão,...),
11
11
que pressupõe que as observações de um dado atributo são independentes
entre si, desconsiderando-se sua localização na área. Neste caso, os
experimentos eram conduzidos para minimizar o impacto da variabilidade
espacial ou temporal, sendo ignorado o fato de que as observações podem ser
espacialmente ou temporalmente dependentes. Entretanto, tem sido
constatado que observações adjacentes de alguns atributos do solo não são
completamente independentes e que essa variabilidade espacial deve ser
considerada na análise estatística dos dados (TIMM et al., 2000, 2003a, 2003b,
CARVALHO; DECHENS; DUFRANC, 2004, REICHARDT; TIMM, 2004).
A variabilidade espacial dos atributos dos solos ocorre em diferentes
níveis e pode estar relacionada a vários fatores: clima, relevo, ação de
organismos, tempo, variação do material de origem nos processos genéticos
de formação do solo e/ou efeitos de técnicas de manejo dos solos decorrentes
de seu uso agrícola. Técnicas estatísticas, como: autocorrelogramas,
crosscorrelogramas, semivariogramas, análise espectral, krigagem,
co-krigagem, modelos auto-regressivos, modelos ARIMA, modelos de espaço
de estados têm sido utilizadas para estudar a variabilidade espacial dos
atributos do solo e podem, potencialmente, levar a um manejo que propicie
melhor entendimento dos processos de interação entre solo, planta e atmosfera
(BRESLER et al., 1981, CASSEL; WENDROTH; NIELSEN, 2000, WENDROTH
et al., 2001, TIMM et al., 2004, DIGGLE; RIBEIRO JÚNIOR, 2007).
2.7.1 Geoestatística
A análise da variabilidade de atributos físicos do solo pode ser
realizada pela estatística descritiva. Este procedimento, entretanto, não
considera relevante a posição dos dados no espaço, ao contrário da
Geoestatística, que considera a estrutura de dependência espacial da variável
e sua localização no espaço (SIMÕES et al., 2006).
A estatística clássica assume que a variabilidade do valor de um
atributo do solo em torno da média é aleatória e independente da posição
espacial dos valores amostrais. No entanto, pesquisadores como DIGGLE e
RIBEIRO JÚNIOR (2007) têm demonstrado que a variabilidade dos atributos do
solo é espacialmente dependente, ou seja, dentro um de certo domínio as
12
12
diferenças entre os valores de um atributo do solo podem ser expressas em
função da distância de separação. Isto significa que os valores em locais mais
próximos entre si são mais semelhantes, até um determinado limite, em relação
àqueles tomados a maiores distâncias. Quando isso ocorre, os dados não
podem ser tratados como independentes e um tratamento estatístico mais
adequado será necessário (VIEIRA, 2000).
Quando se verifica que a componente residual da variância é
relativamente grande, o que, normalmente, é indicado por um alto valor do
coeficiente de variação, o experimento utilizando a forma clássica da estatística
pode ficar prejudicado, por causa da variabilidade do solo, assumido como
homogêneo no início.
A Geoestatística não se refere a um tipo especial, diferente ou
alternativo de estatística, mas a uma opção de análise que considera o fato de
que cada observação é descrita não apenas pelo seu valor. Ela leva em conta,
também, a informação de sua posição, expressa por um sistema de
coordenadas, considerando que observações mais próximas espacialmente
tendem a ter valores mais similares e que esse fato pode ser avaliado por
medidas de associação, pois em Geoestatística não se trabalha com a
suposição de independência entre os dados amostrais (RIBEIRO JÚNIOR,
1995).
Quando se tem uma única amostragem por ponto e se deseja estimar
valores para locais não amostrados, deve-se introduzir a restrição de que a
variável regionalizada assume alguma forma de estacionaridade.
As hipóteses necessárias na Geoestatística são as hipóteses de
estacionaridade de segunda ordem ou a hipótese intrínseca. Na hipótese de
estacionaridade de ordem 2, admite-se que E[Z(s
i
)] = E[Z(s
i
+h)] = m, ou seja, a
esperança matemática de Z(s
i
) é constante e não depende do ponto s
i
. Além
disso, admite-se que a covariância entre os pares Z(s
i
) e Z(s
i
+h) existe e
depende somente de h, o que implica a estacionaridade da variância e a
estacionaridade do variograma (CRESSIE, 1993).
Essa hipótese pode ser representada pelas equações 3 e 4.
E[Z(s
i
)] = μ (3)
Cov[Z(s
i
),Z(s
i
+h)] = C(h) (4)
13
13
em que: {Z(s
i
): s
i
∈ S} representa a variável de interesse medida na área S, na
posição s
i
, e i = 1, 2, 3, ..., n.
Na hipótese de estacionaridade intrínseca, admite-se que E[Z(s
i
)] = m,
para todo s
i
e para todo vetor h, a diferença Z(s
i
) – Z(s
i
+h) tem uma variância
finita, que não depende de s
i
, mas unicamente do vetor h. Assim, a hipótese
intrínseca pode ser definida como:
E[Z(s
i
+h) – Z(s
i
)] = 0 (5)
Esta variância permite definir a função intrínseca chamada variograma:
2γ(h) = E{[Z(s
i
) – Z(s
i
+h)]
2
} (6)
em que: γ(h) é a semivariância (ISAAKS; SRIVASTAVA, 1989).
Para CRESSIE (1993), a estacionaridade de ordem 2 é suficiente para
o emprego da Geoestatística. A existência de estacionaridade oferece a
oportunidade de se repetir um experimento mesmo que as amostras sejam
coletadas em pontos diferentes, pois todas as amostras são consideradas
pertencentes à população. Esta hipótese só pode ser validada quando a
variância for finita para os valores medidos.
2.7.2 Semivariograma
O semivariograma é o gráfico que expressa a variação de atributos
com a distância entre pontos no campo de amostragem. A variância total de
uma determinada propriedade é desmembrada em variâncias entre pares em
diferentes distâncias amostradas e, desse modo, objetiva-se encontrar a
estrutura da variância. Se a variância aumenta com o incremento da distância,
seguindo um padrão, pode-se concluir que as variáveis são dependentes e não
se deve aplicar as metodologias da estatística clássica (VIEIRA, 2000).
MATHERON (1964) apresenta a função semivariância γ(h) para uma
distância fixa (h), como a soma dos quadrados da diferença entre valores
amostrados Z(s
i
) e Z(s
i
+h), separados por uma distância h e divididos por duas
vezes o número de pares, N(h), possíveis e que é estimado pela equação 7:
14
14
[ ]
∑
=
+−=
)(
1
2
)()(
)(2
1
)(
hN
i
ii
hsZsZ
hN
h
γ
(7)
em que: N(h) é o número de pares de amostras, Z(s
i
) e Z(s
i
+h), separadas por
um vetor de distância h, e Z(s
i
) representa o valor medido do atributo do solo
na i-enésima posição. O gráfico de γ(h) versus (h) representa o
semivariograma, que permite obter a estimativa do valor de semivariância para
as diferentes combinações de pares de pontos e, assim, analisar o grau de
dependência espacial da variável estudada e definir os parâmetros necessários
para a estimativa de suas características em locais não amostrados (VIEIRA,
2000).
O semivariograma é utilizado para descrever a dependência entre os
pontos amostrais, distribuídos segundo um sistema espacial de referência e
serve para a interpolação de valores necessários à construção de mapas de
contornos e/ou superfícies por meio da krigagem (ISAAKS; SRIVASTAVA,
1989).
A Figura 1 mostra um semivariograma teórico com seus parâmetros de
ajuste. O seu padrão representa o que, intuitivamente, se espera dos dados
amostrados no campo, isto é, que as diferenças Z(s
i
) e Z(s
i
+h) decresçam à
medida que h diminui. Espera-se que observações amostradas mais próximas
geograficamente tenham um comportamento mais semelhante entre si do que
aquelas separadas por distâncias maiores.
15
15
Figura 1 Semivariograma teórico.
No comportamento típico de um semivariograma ajustado, o valor da
semivariância γ(h) aumenta à medida que aumenta a distância h de separação
entre os pontos até se estabilizarem, ou seja, quando atingir um patamar. O
patamar (C
0
+ C
1
) é atingido quando a semivariância dos dados se torna
constante com a distância entre as amostras. O valor de γ(h) nesse ponto é
aproximadamente igual à variância dos dados. A contribuição C
1
é a curva do
semivariograma que mostra a variância dos dados que apresentam
dependência espacial.
Outro parâmetro importante que define a distância máxima para se
trabalhar com um semivariograma é o alcance “a”, considerada a distância
limite da dependência espacial, a partir da qual as amostras são consideradas
independentes e, portanto, é fundamental para determinação da distância limite
entre dependência e independência entre as amostras.
O efeito pepita (C
0
), outro parâmetro importante do semivariograma,
reflete o erro analítico, indicando uma variabilidade não explicada de um ponto
para o outro, que pode ser devido tanto a erros de medidas quanto à
microvariação não detectada em função da distância de amostragem utilizada.
Este permite verificar o grau de descontinuidade da variação dos dados a
distâncias menores que as amostradas. Esse parâmetro pode facilitar a
comparação do grau de dependência espacial das variáveis em estudo.
Os modelos de semivariogramas usados na Geoestatística dependem
do comportamento da semivariância γ(h) em relação aos valores da distância h.
Esses modelos podem ser classificados em: modelos com ou sem patamar. Os
modelos sem patamar correspondem a fenômenos que têm uma capacidade
infinita de dispersão e, por isso, não têm variância finita e a covariância não
pode ser definida. São modelos usados somente em casos especiais. Os
modelos com patamar são os mais usados e os mais comuns são os modelos:
esférico, exponencial e gaussiano.
a) Modelo esférico
16
16
Apresenta uma estrutura de correlação espacial que aumenta com a
distância até certo ponto (alcance a), a partir do qual a semivariância se torna
constante, limitando a área de influência de cada amostra.
γ(h) = C
0
+ C
1
−
3
2
1
2
3
a
h
a
h
; 0 ≤ h ≤
a (8)
γ(h) = C
0
+ C
1
; h > a
O modelo esférico é obtido selecionando-se os valores do efeito pepita,
C
0
e do patamar C
0
+ C
1
e traçando-se uma reta que intercepte o eixo y em C
0
e
seja tangente aos primeiros pontos próximos de h = 0. Essa reta cruzará o
patamar à distância a’ =
3
2
a. Assim, o alcance será, a =
2
3
a’. O modelo
esférico é linear até, aproximadamente,
3
1
a.
b) Modelo exponencial
Difere do modelo esférico por sua continuidade nos primeiros valores
de h, sendo este de menor continuidade espacial.
γ(h) = C
0
+ C
1
−−
a
h
3exp1
; 0 ≤ h ≤ d (9)
γ(h) = C
0
+ C
1
; h > d
em que: d é a máxima distância na qual o semivariograma é definido.
Uma diferença fundamental entre o modelo exponencial e o esférico é
que o exponencial atinge o patamar apenas assintoticamente, enquanto o
modelo esférico o atinge no valor do alcance.
c) Modelo gaussiano
17
17
Apresenta alcance extenso e o patamar é semelhante ao modelo
exponencial. A característica que distingue o modelo gaussiano é o seu
comportamento parabólico próximo da origem e é o único modelo que
apresenta em sua forma um ponto de inflexão.
γ(h) = C
0
+ C
1
−−
2
3exp1
a
h
; 0 ≤ h ≤ d (10)
γ(h) = C
0
+ C
1
; h > d
Para a análise do grau de dependência espacial da variável pode-se
utilizar uma avaliação quantitativa da variabilidade espacial chamada de
“coeficiente efeito pepita” (ε), que é a relação percentual entre o efeito pepita
(C
0
) e o patamar (C
1
+C
0
), ou seja:
100
)(
01
0
×
+
=
CC
C
ε
. Quanto maior este
coeficiente, menor a variabilidade espacial. O coeficiente de efeito pepita com
valor até 25% é classificado como de forte dependência espacial, os valores
entre 25% e 75% como moderados e acima de 75% como de fraca
dependência espacial (SOUZA et al., 1999; FIETZ; FABRICIO; SALTON,
2000).
A análise geoestatística pressupõe a inexistência de tendências
associadas às posições espaciais, ou seja, o semivariograma deve ser idêntico
para qualquer direção de h. Dessa forma, deve-se verificar a existência de
padrões gráficos das variáveis estudadas em relação às coordenadas de
posição. Isso pode ser feito examinando-se o semivariograma nas direções 0°,
45°, 90° e 135°. Se o semivariograma apresentar o mesmo comportamento em
todas as direções, tem-se um caso isotrópico, caso isso não ocorra, tem-se
uma situação anisotrópica que deverá receber as transformações adequadas
antes de ser usada (ISAAKS; SRIVASTAVA, 1989).
Quando se tem duas variáveis medidas ao mesmo tempo, com pontos
de amostragem na mesma localização, pode-se avaliar o grau de semelhança
de sua variação, no espaço, pelo semivariograma cruzado. Se houver
correlação ou dependência espacial entre as propriedades, poderá ser usado o
18
18
método de interpolação chamado de co-krigagem para estimativa dos valores
da propriedade de interesse, em locais não amostrados a partir de valores
amostrais vizinhos (ISAAKS; SRIVASTAVA, 1989).
A estimativa da dependência entre amostras vizinhas no espaço pode
ser realizada também por meio da autocorrelação, útil quando se está fazendo
amostragem em uma direção, como é o caso de amostragem através de
pontos em uma transeção. Quando a amostragem envolve duas direções (x, y)
o instrumento mais indicado na estimativa da dependência entre amostras é o
semivariograma.
2.7.3 Krigagem
Na maioria das vezes o interesse da análise geoestatística não se
limita à obtenção de um modelo de dependência espacial, deseja-se também
predizer valores em pontos não amostrados. O interesse pode estar em um ou
mais pontos específicos da área ou em obter uma malha de pontos
interpolados que permitam visualizar o comportamento da variável na região
por meio de um mapa de isolinhas ou de superfície. Para se obter esse maior
detalhamento da área em estudo é necessária a aplicação de um método de
interpolação, como a krigagem (VIEIRA, 2000).
Na krigagem o procedimento é semelhante ao de interpolação por
médias móveis ponderadas, exceto que, na krigagem, os pesos são
determinados a partir de uma análise espacial baseada no semivariograma
experimental.
O processo de krigagem se diferencia dos outros métodos de
interpolação pela forma de atribuição dos pesos, porquanto, neste método não
se utiliza a distância euclidiana entre os pontos, mas uma "distância estatística"
que expressa tanto a distância como a estrutura de variabilidade (semivariância
ou covariância). Não apenas a distância dos vizinhos ao ponto a ser estimado é
considerada, mas também as distâncias entre os próprios vizinhos entre si são
consideradas na distribuição dos pesos. Assim, os vizinhos agrupados têm
importância individual relativamente menor do que aqueles isolados (ISAAKS;
SRIVASTAVA, 1989).
19
19
No método da krigagem, os pesos são atribuídos de acordo com a
variabilidade espacial expressa no semivariograma. No entanto, o que torna a
krigagem um interpolador ótimo é a maneira como os pesos são distribuídos,
não sendo tendencioso, tendo variância mínima e possibilitando que se
conheça a variância da estimativa. Assim, a krigagem é uma técnica usada na
Geoestatística com o objetivo de estimar valores de variáveis para locais onde
ela não foram medidas a partir de valores adjacentes interdependentes.
Para que esta metodologia seja usada, é necessário que exista a
dependência espacial definida pelo semivariograma.
O valor estimado da variável [Z*(s
0
)] é dado pela equação 11:
Z*(s
0
) =
∑
=
λ
N
i
ii
sZ
1
)(
(11)
em que: N é o número de valores medidos, Z
i
(s
i
), utilizados na estimativa da
variável e
i
são os pesos associados a cada valor, Z
i
(s
i
), os quais são
calculados de forma que a estimativa obtida seja não tendenciosa.
Para que o estimador seja ótimo, ele não pode ser tendencioso e deve
ter variância mínima, o que implica assumir duas condições:
E[Z*(s
0
) – Z(s
0
)] = 0 (12)
e
σ
2
E
= Var[Z*(s
0
) – Z(s
0
)] = E{[Z*(s
0
) – Z(s
0
)]
2
} = mínima (13)
As equações (12) e (13) representam as condições de não-tendência e
de variância mínima, respectivamente. A condição de não tendência significa
que, em média, a diferença entre valores estimados e medidos para o mesmo
ponto deve ser nula. A condição de variância mínima significa que, embora
possam existir diferenças ponto por ponto entre o valor medido e o estimado,
essas diferenças devem ser mínimas (VIEIRA, 2000).
Pela análise de mapas de contorno ou de superfície, gerados por meio
da krigagem, pode-se tomar decisões importantes, por exemplo, em relação ao
aumento da eficiência na utilização de fertilizantes. O mapeamento da
variabilidade espacial das propriedades do solo, permite a aplicação de
20
20
fertilizantes por zonas de manejo, de forma diferenciada, favorecendo a
otimização da produtividade, aumentando a eficiência do insumo.
2.8 SÉRIES TEMPORAIS
Há uma grande classe de fenômenos físicos, químicos e biológicos
cujos processos observacionais e, conseqüente, quantificação numérica produz
uma seqüência de dados distribuídos no tempo. A seqüência de dados
ordenados, segundo o parâmetro tempo, é chamada de série temporal. Da
mesma forma, uma seqüência de dados dispostos em ordem espacial é
chamada de série espacial.
As séries temporais podem ser discretas ou contínuas. Uma série
temporal discreta pode ser considerada como um conjunto de observações Z
descrito por Z(t
i
), i = 1, 2, 3,..., n, observado em tempos eqüidistantes t
i
– t
i-1
= α
que apresentam dependência serial entre elas. Mesmo que uma série seja
coletada continuamente durante um dado intervalo de tempo, será necessário
transformá-la em uma série discreta, por meio de amostragem em intervalos de
tempo eqüidistantes. O intervalo de tempo α entre as observações sucessivas
é determinado, geralmente, pelo pesquisador, mas em muitas situações ele é
determinado pela disponibilidade dos dados, sendo que, quanto menor o
intervalo de tempo α de amostragem, maior será o número de observações e,
conseqüentemente, melhor a análise de dados (MORETTIN; TOLOI, 2004).
Os objetivos básicos, quando se analisa uma série temporal, são:
a) a obtenção de conclusões em termos estatísticos;
b) a modelagem do fenômeno sob consideração;
c) a avaliação da adequação do modelo em termos de previsão.
Os modelos usados em séries temporais descrevem processos
estocásticos e a escolha desses modelos depende de vários fatores, como o
comportamento do fenômeno ou o conhecimento anterior que temos de sua
natureza e do objetivo da análise. Do ponto de vista prático, depende, também,
da existência de métodos ótimos de estimação e da disponibilidade de
programas que possam ser utilizados.
Uma série temporal pode ser analisada de duas maneiras:
21
21
i) análise no domínio do tempo;
ii) análise no domínio da freqüência.
Em ambos os casos, o objetivo é construir modelos para a série com
propósitos determinados. No primeiro caso, o objetivo da análise é identificar
os modelos para as componentes estacionárias e não-estacionárias, sendo
que, neste caso, os modelos propostos são modelos paramétricos com número
finito de parâmetros. Entre os modelos paramétricos tem-se:
- AR: auto-regressivo;
- MA: média móvel;
- ARMA: auto-regressivo de média móvel;
- ARIMA: auto-regressivo integrado de média móvel;
- STATE-SPACE: modelo de Espaço de Estados.
No segundo caso, os modelos propostos são modelos
não-paramétricos e consistem em decompor a série dada em componentes de
freqüência, em que a existência de um espectro (dados que apresentam um
padrão periódico) é a característica fundamental (SHUMWAY; STOFFER,
2000).
Entre os modelos não-paramétricos pode-se citar a Análise Espectral
de séries temporais que, de uma forma geral, decompõe a série analisada em
componentes senoidais com coeficientes aleatórios não correlacionados e em
senóides da função de autocovariância. A decomposição espectral de um
processo estacionário é análoga à representação de Fourier de funções
determinísticas (PERFECT; CARON, 2002).
Na análise espectral são estudados fenômenos que envolvem
periodicidade dos dados tendo, portanto, numerosas aplicações em campos
como: Engenharia Elétrica, Comunicação, Física, Economia, Medicina e
Engenharia Agrícola dentre outras (SHUMWAY; STOFFER, 2000).
Quando o interesse é fazer a análise de uma série no domínio do
tempo, uma das suposições mais freqüentes é que a série seja estacionária.
Isso significa que esta série se desenvolve aleatoriamente no tempo, ao redor
de uma média (µ) constante em que as propriedades estatísticas não variam,
refletindo alguma forma de equilíbrio estável. Porém, a maior parte das séries
encontradas na prática apresenta alguma forma de não-estacionaridade (média
µ
i
e variância
2
i
σ
variam), necessitando de uma transformação dos dados
22
22
originais, pois a maioria dos procedimentos de análise estatística de séries
temporais supõe que elas sejam estacionárias (MORETTIN; TOLOI, 2004).
2.9 AUTOCORRELAÇÃO ESPACIAL
A correlação entre duas variáveis Z e W torna-se uma autocorrelação
se W for trocado por Z, mas em outra posição dentro da transeção. Como se
trata de uma correlação entre uma variável e ela mesma em outra posição, o
processo é denominado autocorrelação. Assim, para as variáveis Z
i
na posição
i e Z
i+j
na posição (i+j), distante h = i-j, em que h é o espaçamento (lag) e i =
0, 1, 2, 3, ..., k, a autocorrelação pode ser determinada utilizando-se as
equações 14 e 15:
−−
−−
=
∑
−
=
+
jn
i
jii
ZZZZ
jn
jC
1
))((
)1(
1
)(
(14)
em que: C(j) é a covariância entre Z
i
e Z
i +j
; n é o número de pares (Z
i
e Z
i +j
) e
Z
é a média aritmética da variável Z.
Pode-se obter o coeficiente da função de autocorrelação, dividindo a
covariância C(j) pela variância S
2
da população de Z.
2
)(
)(
S
jC
jr =
(15)
em que: r(j) é coeficiente da função de autocorrelação, com (–1< r(j) < 1) e
2
S
é a variância da variável Z.
A autocorrelação é, portanto, uma correlação entre vizinhos; entre
primeiros vizinhos para j = 1 (Z
1
com Z
2
, Z
2
com Z
3
, Z
4
com Z
5
,..., Z
i
com Z
i+1
);
entre segundos vizinhos para j = 2 (Z
1
com Z
3
, Z
2
com Z
4
, Z
4
com Z
6
,..., Z
i
com
Z
i+2
), e assim por diante. As coordenadas de amostragem de Z não são
consideradas na análise, mas sua posição na transeção e sua ordenação são
importantes. Pode-se verificar que para j = 1 perde-se um par na correlação,
para j = 2 perdem-se dois pares e, assim, com o aumento de j o número de
23
23
pares indicado na somatória da equação (14) diminui e equivale ao índice
superior da somatória: n – j. Por isso, para uso da autocorrelação e de outras
técnicas da estatística regionalizada, é preciso um grande número n de
observações (LI et al., 2002, REICHARDT; TIMM, 2004).
Aplicando-se a equação (15) para valores de j = 0, 1, 2, ..., k (com k
muito menor que n – j), obtém-se r(0), r(1), r(2),..., r(k). O valor de r(0) é 1, pois
se correlaciona Z
i
com Z
i
. Se houver correlação entre vizinhos, têm-se os
valores de r(1), r(2), r(3), ..., proporcionais a estas correlações, mas sempre
menores que 1. Para vizinhos muito distantes, espera-se que a correlação
diminua tendendo para zero. O gráfico de r(j) em função de j é chamado de
autocorrelograma e mede a variação da autocorrelação em função da distância
que separa os dados. Se r(j) cai rapidamente para zero, a variável Z não é
autocorrelacionada e seus valores Z
i
podem ser considerados independentes.
Na prática, os autocorrelogramas gerados pelos dados podem assumir
formas variadas, dependendo da variabilidade espacial do atributo em estudo.
Para altos valores de j, r(j) pode assumir valores negativos e, com o aumento
de j, voltar a ser positivo (REICHARDT; TIMM, 2004).
2.10 CROSSCORRELAÇÃO ESPACIAL
Quando se tem dois conjuntos de variáveis Z e W, observados no
mesmo ponto i (ou no mesmo tempo t), sua estrutura espacial de
crosscorrelação pode ser analisada calculando-se o coeficiente de
crosscorrelação.
O gráfico da função de crosscorrelação entre duas séries dadas
correlaciona a série 1 no tempo t com a série 2 no tempo (t-1) e. assim,
sucessivamente.
Um lag positivo indica que a série 1 correlaciona-se com o passado da
série 2, enquanto que um lag negativo indica que a série 1 correlaciona-se com
o futuro da série 2 (SHUMWAY; STOFFER, 2000).
Apesar de cada variável apresentar seu próprio autocorrelograma, uma
análise de sua crosscorrelação indica para qual distância (ou intervalo de
tempo) uma variável está relacionada com a outra. O coeficiente r
c
(j) da função
24
24
de crosscorrelação descreve o grau de associação linear entre as variáveis
correlacionadas. Esta associação entre as duas variáveis pode ser usada para
verificar se a aplicação da abordagem de Espaço de Estados é justificada, por
exemplo.
O coeficiente da função de crosscorrelação é dado por:
r
c
(j) =
22
),(
wz
jii
SS
WZC
+
(16)
em que: r
c
(j) é o coeficiente de crosscorrelação entre Z
i
e W
i+j
; C(Z
i
,W
i+j
)
é a covariância entre Z
i
e W
i+j
;
2
z
S
é a variância da variável Z e
2
w
S
é a variância
da variável W.
O crosscorrelograma torna mais consistente a correlação entre Z e W,
pois também se vale de pontos vizinhos. Deve-se observar que as
autocorrelações entre Z
i
e Z
i+j
são idênticas às de Z
i+j
e Z
i
. No caso da
crosscorrelação, a correlação entre Z
i
com W
i+j
é diferente de W
i+j
com Z
i
(LI et
al., 2002, REICHARDT; TIMM, 2004).
2.11 ESPAÇO DE ESTADOS
Os modelos estatísticos de séries temporais chamados de modelos de
Espaço de Estados ou modelos lineares dinâmicos são uma forma de
representação de um modelo que tem sido regularmente utilizado para modelar
dados estatísticos provenientes da Economia, da Medicina, da Engenharia e da
Ciência do Solo, dentre outras áreas (MORETTIN; TOLOI, 2004).
O desenvolvimento inicial da metodologia de Espaço de Estados
ocorreu com o artigo de KALMAN (1960), em uma revista de engenharia, numa
pesquisa aeroespacial contratada pela Força Aérea dos Estados Unidos.
Nesse artigo Kalman mostrou dois resultados de grande relevância:
inicialmente, mostrou que uma extensa classe de problemas pode ser
formulada como um simples modelo linear, representado na forma de Espaço
de Estados. Depois mostrou que, devido à natureza Markoviana do processo,
as análises necessárias para aplicação prática do modelo podem ser colocadas
25
25
de forma recursiva, de maneira bastante conveniente para uso computacional
(MOTTA, 2001).
A representação de um modelo em Espaço de Estados de um
processo estocástico estacionário envolvendo j conjuntos de dados Y
j
(x
i
),
coletados na posição i, é um modelo probabilístico de séries temporais ou
espaciais, baseado nas propriedades de processos markovianos que
estabelece a independência do futuro do processo em relação ao passado,
dado o estado presente. Nesse sistema, o estado dos processos condensa
toda informação do passado necessária para a previsão do futuro
(REICHARDT; TIMM, 2004).
Na análise de Espaço de Estados, o estado de um sistema de uma
variável ou de um conjunto de variáveis medidas na posição i, é relacionado ao
estado da mesma ou de outras variáveis na posição i-h, em que h (h = 1, 2,
3, ..., n) é o número de espaçamentos entre as observações vizinhas. Esse
modelo auto-regressivo é usado para vários tipos de estimativas baseadas no
espaço ou no tempo, para identificar coeficientes que unem a equação de
estado ou do sistema (WENDROTH et al., 2001, WU et al., 2001, POULSEN et
al., 2003).
2.11.1 Representação de um Modelo em Espaço de Estados
A formulação de um modelo de Espaço em Estados é uma forma de
representar um sistema linear ou não linear a partir de um sistema de duas
equações dinâmicas. Para o sistema linear em forma vetorial tem-se:
1) a forma pela qual o vetor das observações Y
j
(x
i
) do processo é
gerado em função do vetor de estado Z
j
(x
i
), denominada Equação das
Observações:
Y
j
(x
i
) = A
jxj
(x
i
)Z
j
(x
i
) +
)(
iy
xv
j
(17)
2) a evolução dinâmica do vetor de estado não-observado Z
j
(x
i
),
denominada Equação de Estado:
Z
j
(x
i
) = φ
jxj
Z
j
(x
i-1
) +
)(
iz
xu
j
(18)
26
26
em que:
- A
jxj
: é a matriz dos coeficientes das observações do sistema, de
ordem (q x q);
-
)(
iy
xv
j
: é o vetor ruído da observação, de ordem (q x 1), não
correlacionados, com média zero e matriz de covariância R;
- φ
jxj
: é a matriz dos coeficientes de estados ou de transição, de ordem
(p x p);
-
)(
iz
xu
j
: é um vetor de ruídos não correlacionados, representando a
perturbação do sistema, de ordem (p x 1), com média zero e matriz de
covariância Q.
No modelo linear dinâmico assume-se que:
i) o estado inicial Z
0
tem média μ
0
e matriz de covariância Σ
0
;
ii) os vetores de ruídos
)(
iy
xv
j
e
)(
iz
xu
j
não são correlacionados entre
si e não são correlacionados com o estado inicial (MORKOC et al., 1985).
O modelo de Espaço de Estados é dito gaussiano quando os vetores
de ruídos têm distribuição normal de probabilidade.
As matrizes A
jxj
e φ
jxj
não são estocásticas; assim se houver variação no
espaço, esta será pré-determinada. Quando essas matrizes forem constantes
no espaço o sistema será dito invariante ou homogêneo no espaço. Um caso
especial desse tipo de modelo são os modelos estacionários. Além disso, se
houverem elementos desconhecidos nessas matrizes, eles poderão ser
estimados utilizando o método de máxima verossimilhança (MORETTIN;
TOLOI, 2004).
O método de máxima verossimilhança é um método usado para a
estimação dos parâmetros μ
0
, Σ
0
, φ, Q e R e das matrizes A e φ que
especificam o modelo de Espaço de Estados.
Considerando Θ = {μ
0
, Σ
0
, φ, Q, R) sob a suposição que o estado inicial
tem distribuição gaussiana, isto é, Z
0
~N(μ
0
; Σ
0
) e que os ruídos v
1
, v
2
, ..., v
N
e
u
1
, u
2
, ..., u
N
são variáveis não correlacionadas e conjuntamente normais,
pode-se calcular a função de verossimilhança utilizando-se as inovações,
definidas por:
ε
t
= Y
t
– AZ
(t
t-1)
(19)
27
27
e
Σ
t
= AP
(t
t-1)
A’
t
+ R (20)
para t = 1, 2, ..., N e E(ε
t
) = 0.
Considerando que W
n
= {Z
1
, Z
2
, ..., Z
n
}, por definição, as inovações são
vetores aleatórios com distribuições normais independentes, tem-se que a
log-verossimilhança é:
−2lnL
w
(Θ) =
)()()'()(log
1
1
1
ΘΘ∑Θ+Θ∑
∑∑
=
−
=
t
n
t
tt
n
t
t
εε
(21)
que é uma função não-linear em Θ. Uma possível solução é utilizar o algoritmo
de Newton-Raphson sucessivamente, até que a log-verossimilhança seja
maximizada. Os passos para este procedimento de estimação são:
- Selecionar valores iniciais para os parâmetros, denotados por Θ
(0)
.
- Utilizar o filtro de Kalman e os valores iniciais Θ
(0)
, para obter o
conjunto de inovações e as matrizes de covariância, {ε
t
(0)
, Σ
t
(0)
, t = 1, 2, ...,N}.
- Executar uma iteração do algoritmo de Newton-Raphson utilizando os
valores obtidos no passo 2 e obtendo um novo conjunto de estimativas, Θ
(1)
.
A cada iteração j (j = 1, 2, ...), repetir o passo 2 utilizando Θ
(j)
para obter
um novo conjunto de inovações e as respectivas matrizes de covariâncias, {ε
t
(j)
,
Σ
t
(j)
, t = 1, 2, ..., N}. Repetir o passo 3 para obter uma nova estimativa Θ
(j+1)
.
Parar quando as estimativas ou log-verossimilhança estabilizar ou quando
)()1( jj
Θ−Θ
+
ou
)(ln)(ln
)()1(
ZLZL
jj
Θ−Θ
+
for menor do que uma quantidade
pequena e pré-estabelecida. (SHUMWAY; STOFFER, 2000, MORETTIN;
TOLOI, 2004).
A matriz de observação A
jxj
na equação (17) origina-se do seguinte
conjunto de equações de observações:
Y
1
(x
i
) = m
11
Z
1
(x
i
) + m
12
Z
2
(x
i
) + ... + m
1j
Z
j
(x
i
) + v
y1
(x
i
)
Y
2
(x
i
) = m
21
Z
1
(x
i
) + m
22
Z
2
(x
i
) + ... + m
2j
Z
j
(x
i
) + v
y2
(x
i
) (22)
28
28
Y
j
(x
i
) = m
j1
Z
1
(x
i
) + m
j2
Z
2
(x
i
) + ... + m
jj
Z
j
(x
i
) + v
yj
(x
i
)
Têm-se, então, em forma de matriz:
)(
)(
)(
2
1
ij
i
i
xY
xY
xY
=
jjjj
j
j
mmm
mmm
mmm
21
22221
11211
×
)(
)(
)(
2
1
ij
i
i
xZ
xZ
xZ
+
)(
)(
)(
2
1
iyj
iy
iy
xv
xv
xv
(23)
em que:
A
jxj
=
jjjj
j
j
mmm
mmm
mmm
21
22221
11211
é a matriz de observação.
A matriz de transição ou matriz dos coeficientes de estados φ
jxj
na
equação (18) origina-se de maneira análoga à matriz de observação.
Z
1
(x
i
) = φ
11
Z
1
(x
i-1
) + φ
12
Z
2
(x
i-1
) + ... + φ
1j
Z
j
(x
i-1
) + u
Z1
(x
i
)
Z
2
(x
i
) = φ
21
Z
1
(x
i-1
) + φ
22
Z
2
(x
i-1
) + ... + φ
2j
Z
j
(x
i-1
) + u
Z2
(x
i
) (24)
Z
j
(x
i
) = φ
j1
Z
1
(x
i-1
) + φ
j2
Z
2
(x
i-1
) + ... + φ
jj
Z
j
(x
i-1
) + u
Zj
(x
i
)
Na forma de matriz:
)(
)(
)(
2
1
ij
i
i
xZ
xZ
xZ
=
jjjj
j
j
φφφ
φφφ
φφφ
21
22221
11211
x
−
−
−
)(
)(
)(
1
12
11
ij
i
i
xZ
xZ
xZ
+
)(
)(
)(
2
1
iZj
iZ
iZ
xu
xu
xu
(25)
29
29
em que:
φ
jxj
=
jjjj
j
j
φφφ
φφφ
φφφ
21
22221
11211
é a matriz de transição.
O vetor de observação Y
j
(x
i
) é relacionado ao vetor de estado Z
j
(x
i
) pela
matriz de observação A
jxj
e por um erro (ou ruído) de observação
)(
iy
xv
j
. O
vetor de estado Z
j
(x
i
) na posição i é relacionado ao mesmo vetor na posição i-1
por meio da matriz dos coeficientes de estados φ
jxj
(x
i
) (matriz de transição) e
um erro (ou ruído) associado ao estado
)(
iz
xu
j
. É assumido que
)(
iy
xv
j
e
)(
iz
xu
j
são normalmente distribuídos, independentes e não-correlacionados
entre si (DOURADO-NETO et al., 1999, REICHARDT; TIMM, 2004, SHUAI;
YOST, 2004).
De acordo com GELB (1974) citado por REICHARDT e TIMM (2004), o
desenvolvimento de métodos para processamento de observações
contaminadas por ruídos pode ser atribuído aos trabalhos de Gauss e de
Legendre, por volta de 1800, que desenvolveram, independentemente um do
outro, o método dos mínimos quadrados para modelos lineares. KALMAN
(1960), usando uma formulação em Espaço de Estados, desenvolveu um filtro
recursivo ótimo para estimação dos mínimos quadrados em sistemas lineares
dinâmicos estocásticos, atualmente conhecido como Filtro de Kalman.
Os coeficientes de estados φ
jxj
e ruídos da equação (18) são estimados
por um procedimento recursivo descrito por SHUMWAY e STOFFER (1982).
Eles são otimizados pelo filtro de Kalman (KALMAN, 1960, KALMAN, BUCY,
1961) com um algoritmo interativo. Esse filtro é usado para encontrar
estimadores otimizados para o vetor de estado na posição i. MOTTA (2001)
menciona que esse filtro é freqüentemente usado em Engenharia, pois ele
permite a estimação do vetor de estado com uma contínua renovação à medida
que novas observações são obtidas.
30
30
2.11.2 Filtro de Kalman
Do ponto de vista prático, o objetivo básico de qualquer análise,
envolvendo a representação de um modelo em Espaço de Estados como
definido pelas equações (17) e (18), é produzir estimadores para os dados não
observados Z(t
i
), considerando os dados Z
1
, Z
2
, ..., Z
n
, com i = 1, 2, ..., n, para o
tempo t (SHUMWAY; STOFFER, 2000).
De acordo com o objetivo do estudo envolvendo a metodologia de
Espaço de Estados, podem-se ter diferentes tipos de estimativas:
a) quando o tempo (ou espaço) no qual uma estimativa é desejada
coincide com o último dado observado (t = n), o problema é dito de filtragem;
b) quando o tempo (ou espaço) de interesse se situa dentro de todo o
conjunto de dados observados, ou seja, todo o conjunto de dados observados
é utilizado para estimar o ponto de interesse (t < n), o problema é dito de
suavização;
c) quando o tempo (ou espaço) de interesse se situa além do último
dado observado (t > n), o problema é dito de predição (REICHARDT; TIMM,
2004).
Juntamente com essas estimativas é necessário medir a precisão
destes resultados. A solução desses problemas é viabilizada pelo filtro de
Kalman.
O filtro de Kalman é um procedimento de estimação recursiva para
encontrar estimadores ótimos (estimadores de mínimos quadrados) para o
vetor de estados Z(t
i
) no tempo t, baseado em informações no tempo t. Essas
informações consistem no conjunto de observações Z
1
, Z
2
, ..., Z
n
, com i = 1,
2, ..., n.
Quando as perturbações e o vetor de estado inicial são normalmente
distribuídos, o filtro de Kalman, pela decomposição do erro de predição,
permite o cálculo da função de verossimilhança. Isso possibilita, junto com um
algoritmo adequado, encontrar estimadores de máxima verossimilhança dos
parâmetros do modelo e testar os parâmetros e especificações do modelo.
Para o modelo de Espaço de Estados especificado nas equações (17)
e (18), com condições iniciais
µ
=
0
0
z
e
0
0
0
∑=P
, tem-se:
Z
(t│t-1)
= φZ
(t-1│t-1)
(26)
31
31
P
(t│t-1)
= φP
(t-1│t-1)
φ’ + Q (27)
com:
z
(t│t)
= z
(t│t-1)
+ K
t
(y
t
– A
t
z
(t│t-1)
) (28)
P
(t│t)
= [I – K
t
A
t
]P
(t│t-1)
(29)
em que:
K
t
= P
(t│t-1)
A
t
’[A
t
P
(t│t-1)
A
t
’ + R]
-1
(30)
no qual, K
t
é chamado de ganho de Kalman, P
t
é a matriz de covariância do
erro de estimação, I é a matriz identidade e φ’ é a matriz transposta de φ. As
previsões para t > n são realizadas pelas equações (26) e (27) com condições
iniciais
n
n
z
e
n
n
P
(SHUMWAY; STOFFER, 2000).
Os valores iniciais do filtro de Kalman, no caso do modelo de séries
temporais ou espaciais estacionárias, podem ser inicializados em termos de
média e matriz de variância não-condicional de z
0
e P
0
ou z
(1│0)
e P
(1│0)
.
Dadas às condições iniciais, o filtro de Kalman fornece o estimador
ótimo do vetor de estado, conforme cada nova observação é obtida.
Após o processamento de todas as observações, o filtro retorna o
estimador ótimo do vetor de estado corrente e/ou o vetor de estado no próximo
período de tempo, baseado em todo conjunto de informação. Esse estimador
contém todas as informações necessárias para fazer a previsão ótima de
futuros valores de estados e observações (MOTTA, 2001, MORETTIN; TOLOI,
2004).
Em um sistema dinâmico de equações como o de Espaço de Estados,
que descreve o comportamento do vetor de estado e das observações, os
modelos estatísticos que caracterizam os erros observacionais e de estado e a
condição inicial da informação, o filtro de Kalman faz a atualização seqüencial
do vetor de estado no tempo (ou espaço) i -1 para o tempo (ou espaço) i.
Pode-se dizer que o filtro de Kalman é, em essência, uma solução que permite
o processamento seqüencial das observações para o método original dos
quadrados mínimos de Gauss. Entretanto, é necessário o uso de outro
algoritmo, como o algoritmo EM, de maximização da média de Dempster, para
32
32
que junto com o filtro de Kalman seja solucionado o problema das observações
contaminadas por ruídos, ou da presença de parâmetros de incerteza
(REICHARDT; TIMM, 2004).
O algoritmo EM é utilizado nas iterações para o cálculo da máxima
verossimilhança de dados incompletos, que podem ocorrer de erros ou falhas
na coleta ou aquisição de dados experimentais. Esse algoritmo consiste em
dois passos, em que cada iteração envolve, um passo de expectativa (E-step)
seguido por um passo de Maximização (M-step) (DEMPSTER; LAIRD; RUBIN,
1977).
A formulação em Espaço de Estados pode ser usada, como a krigagem
e a co-krigagem para a interpolação espacial de dados, porém a
fundamentação dessa metodologia é diferente. Por exemplo, para a aplicação
das técnicas de krigagem e co-krigagem, a condição de estacionaridade dos
dados é requerida, diferindo da abordagem de Espaço de Estados em que
essa condição não é um fator limitante, ou seja, a série em estudo pode não
ser estacionária (SHUMWAY; STOFFER, 1982).
De uma forma geral, pode-se dizer que há duas maneiras de utilizar a
formulação de Espaço de Estados: a primeira apresentada por SHUMWAY e
STOFFER (2000), que vem sendo empregada por vários pesquisadores na
área agronômica, dando ênfase à equação de evolução de estado do sistema
(Equação 18) e a segunda forma que utiliza a abordagem bayesiana e que
ainda tem sido pouco explorada na área agronômica. Nesta é dada ênfase
maior à equação das observações (Equação 17).
2.11.3 Espaço de Estados Segundo SHUMWAY
Essa abordagem, apresentada em SHUMWAY (1988) e mais
recentemente em SHUMWAY e STOFFER (2000), dá maior ênfase à equação
de evolução de estado do sistema em que a matriz dos coeficientes de
transição φ (Equação 18) é uma matriz de dimensão j x j, o que indica a medida
espacial da associação linear entre as variáveis de interesse. Esses
coeficientes são otimizados por um procedimento recursivo, usando algoritmo
tipo filtro de Kalman (SHUMWAY; STOFFER, 1982), em que o método da
máxima verossimilhança é usado junto com o algoritmo de maximização da
33
33
média de DEMPSTER, LAIRD e RUBIN (1977). Neste caso, as equações (17)
e (18) são resolvidas assumindo valores iniciais para a média e a variância de
cada variável e para as matrizes: de covariância do ruído das observações R,
de covariância do ruído associado ao vetor de estado Q, dos coeficientes de
transição φ e de observação A.
O Applied Statistical Time Series Analysis - ASTSA é um programa
para estimativa e previsão com séries temporais que utiliza a estimação
clássica para os modelos em Espaço de Estados padrão, desenvolvido por
Robert H. Shumway em 1988.
No desenvolvimento do programa ASTSA, a matriz dos coeficientes da
equação das observações A
jxj
foi fixada como uma matriz unitária, durante
todos os passos da estimativa da variável resposta. Isso significa que foi dada
maior ênfase à equação de evolução de estados e não à equação das
observações (TIMM et al., 2004).
No programa ASTSA as duas equações que formam o sistema linear
dinâmico em Espaço de Estados são resolvidas simultaneamente na estimativa
da variável de interesse.
Além do programa ASTSA para trabalhar com Espaço de Estados há
outros como o Bayesian Analysis of Time Series - BATS que utiliza a estimação
bayesiana e o State-Space form Package - SsfPack que utiliza tanto a
estimação clássica quanto a estimação bayesiana para Espaço de Estados
(KOOPMAN; SHEPHARD; DOORNIK, 1999).
Como a maioria dos procedimentos de análise estatística de séries
temporais supõe que elas sejam estacionárias, será necessário transformar os
dados originais, se estes não formam uma série estacionária. A transformação
mais comum consiste em tomar diferenças sucessivas da série original, até se
obter uma série estacionária (MORETTIN; TOLOI, 2004).
No caso de Espaço de Estados costuma-se utilizar a transformação
chamada de Normalização de dados, dada pela equação 31:
Z
j
*
(x
i
) =
S
SZxZ
jij
4
)2()( −−
(31)
34
34
em que: Z
j
*
(x
i
) é o dado transformado,
)(
ij
xZ
é o valor da variável Z
j
na posição
I,
j
Z
é a média aritmética de Z e S é o desvio padrão.
Quando os dados originais são normalizados antes da aplicação da
metodologia de Espaço de Estados, a magnitude dos coeficientes φ torna-se
diretamente proporcional à contribuição de cada variável na estimativa de Z
j
(x
i
).
Sabe-se que há dois tipos de representação em modelos de Espaço de
Estados. No primeiro tipo, é dada ênfase à equação de estado e, no segundo
tipo, a ênfase é dada à equação de observações. Ambas são apresentadas
como um sistema dinâmico composto de duas equações, diferindo apenas na
maneira pela qual são implementadas na prática. A primeira permite a
interferência do usuário na rotina de estimativas do programa ASTSA, com o
sistema sendo tratado como um processo espacial multidimensional, em que
não há hierarquia entre as variáveis, ou seja, todas as variáveis são tratadas da
mesma forma. Este programa, usado para análise de séries temporais e
espaciais, foi desenvolvido como padrão para Espaço de Estados. A segunda,
implementada com o programa BATS, permite que o usuário construa o
modelo. Baseado no julgamento para melhor representar o sistema dinâmico
de interesse fornece um ajuste local dos coeficientes de regressão que
possibilita estimar a variável resposta ponto a ponto ao longo da transeção
experimental. Em contrapartida, o processo é tratado como unidimensional,
dando um tratamento hierárquico às variáveis, ou seja, as variáveis são
tratadas de maneira diferente do ponto de vista da implementação prática
(REICHARDT; TIMM, 2004).
A representação de modelos de Espaço de Estados, com aplicação na
área agronômica, pode ser utilizada como uma técnica para estimação e
previsão de modelos estatísticos mais confiáveis que os regressores
convencionais para a Agricultura de Precisão, a qual por sua vez se caracteriza
pela aplicação diferenciada de práticas agrícolas como adubação, calagem,
profundidade de aração, aplicação de defensivos, etc., em cada parcela de um
campo de cultivo, atendendo às exigências específicas para cada ponto.
O outro caso é o seu uso em funções de pedotransferência, as quais
são utilizadas para estimar propriedades, variáveis ou atributos do solo a partir
de valores já medidos e conhecidos. Por exemplo, em levantamentos de solo
existe grande volume de informações relativas à textura do solo, CTC, água
35
35
disponível, pH, etc. Se tais informações forem usadas para obter variáveis não
disponíveis como condutividade hidráulica, retenção de água, erodibilidade,
etc., esforços podem ser poupados. Isso significa que, a partir dos valores
conhecidos de uma variável é possível determinar os valores das demais
variáveis correlacionadas, economizando análises de laboratório, prevendo
possíveis ocorrências de situações não desejadas e obtendo as informações
corretas para a realização do trabalho em campo, evitando erros que podem
ocorrer da prática agrícola (TIMM et al., 2004).
Além das metodologias acima descritas, as funções de
pedotransferência também fazem uso das redes neurais. As Redes Neurais
Artificiais (RNA) podem ser usadas como ferramentas de interpolação e sua
capacidade de aprendizado para diferentes parâmetros de entrada torna-as
capazes de resolver problemas muito complexos em diversas áreas do
conhecimento (TIMM et al., 2006).
Uma RNA é composta por um conjunto de elementos computacionais,
denominados neurônios artificiais, que relacionam os valores de entrada e de
saída do sistema. O desenvolvimento de uma RNA consiste em determinar sua
arquitetura, isto é, os números de camadas e de neurônios em cada camada,
bem como ajustar os seus parâmetros livres, esta fase é conhecida como
treinamento. A arquitetura varia de acordo com a complexidade do problema e
não pode ser definida antes do treinamento, constituindo uma procura baseada
em tentativas e erros. Uma RNA se constitui, portanto, em um método de
solucionar problemas de inteligência artificial, construindo um sistema que
tenha um circuito que simule o cérebro humano, ou seja, aprendendo, errando
e fazendo descobertas (MOREIRA et al., 2006).
2.12 AVALIAÇÃO DO DESEMPENHO DOS MODELOS EM
ESPAÇO DE ESTADOS
Para avaliação da eficiência dos modelos em Espaço de Estados,
utiliza-se o coeficiente de determinação R
2
, da regressão linear entre os valores
estimados e os valores observados da variável resposta.
36
36
O coeficiente de determinação é definido como: R
2
=
SQT
SQR
, em que:
SQR =
( )
2
1
ˆ
∑
=
−
n
i
i
YY
é a soma do quadrado da regressão e SQT =
( )
2
1
∑
=
−
n
i
i
YY
é a
soma do quadrado total. O coeficiente de determinação mede a variabilidade
total da variável resposta que é explicada pelo modelo adotado, que é um
número pertencente ao intervalo [0; 1] (HILL; GRIFFITHS; JUDGE, 2003).
Quanto maior for o valor de R
2
melhor é o ajuste. O valor 1 do intervalo significa
100% de ajuste (GOMES, 1987, VIERA; HOFFMANN, 1989, CAMARGO;
SENTELHAS, 1997, LAPPONI, 2005).
37
37
3 MATERIAL E MÉTODOS
3.1 LOCALIZAÇÃO E CARACTERIZAÇÃO DA ÁREA
EXPERIMENTAL
Os experimentos necessários para a aquisição de dados foram
realizados no Núcleo Experimental de Engenharia Agrícola - NEEA,
pertencente à UNIOESTE, campus de Cascavel – PR, localizado na BR 467,
km101. As coordenadas geográficas são: 24°54’ latitude Sul e 53°31’57”
longitude Oeste de Greenwich, altitude 750 m. O clima da região é temperado
mesotérmico e super-úmido, com precipitação anual em torno de 1920 mm e
temperatura do ar com média anual em torno de 21°C. O solo da região foi
classificado como Latossolo Vermelho-Escuro distroférrico, substrato basalto e
relevo suavemente ondulado (EMBRAPA, 1999). A distribuição granulométrica
deste solo é: 60% de argila, 32% de silte e 8% de areia, sendo considerado um
solo muito argiloso; sua densidade de partículas é de 2,769 Mg m
-3
.
A área do experimento vem sendo cultivada há mais de nove anos,
com alternância entre as culturas de soja ou milho no verão e trigo ou aveia no
inverno, empregando-se o sistema de plantio direto.
A Figura 2 mostra os pontos de coletas de amostras no NEAA, os quais
foram delimitados em uma área de 311 m x 40 m (12440 m
2
), onde foram
traçadas três transeções de 291 m cada. Foram delimitados 97 pontos de
amostragem por transeção, com espaçamento de 3 m entre os pontos da
transeção e com 10 m de espaçamento entre as transeções. Estes pontos
foram demarcados com o auxílio de uma trena e georreferenciados com auxílio
de GPS (Global Positioning System).
38
38
Figura 2 Pontos de coleta de amostras – NEEA.
3.2 COLETA DE AMOSTRAS E AQUISIÇÃO DE DADOS
Os dados experimentais em campo foram obtidos entre março e
novembro de 2006.
Foram determinados os seguintes atributos do solo e da planta:
- conteúdo de água no solo (kg kg
-1
);
- porosidade total do solo (m
3
m
-3
);
- macroporosidade (m
3
m
-3
);
- microporosidade (m
3
m
-3
);
- densidade do solo (Mg m
-3
);
- grau de compactação do solo (%);
- resistência do solo à penetração (MPa);
- produtividade do trigo (Mg ha
-1
).
A variável de interesse ou variável resposta é a produtividade do trigo e
as co-variáveis são os atributos: conteúdo de água do solo, porosidade total do
39
39
solo, densidade do solo, grau de compactação do solo e resistência do solo à
penetração, determinados na camada de solo de 10-20 cm de profundidade.
3.2.1 Conteúdo de Água no Solo
O conteúdo de água no solo foi determinado de acordo com o que é
descrito pelo Manual de Métodos e Análises da EMBRAPA (1997).
Na determinação do conteúdo de água do solo foram usadas amostras
deformadas de cada ponto, coletadas em três cápsulas, devidamente
identificadas. Em seguida foram medidas as suas massas, com uma balança
digital com precisão de 0,01 g, e as cápsulas levadas para uma estufa a 105 °
C, por 24 horas. Retiradas da estufa, após esse período, as cápsulas foram
pesadas novamente para medir a sua massa bruta seca.
Com os dados obtidos foi determinado o conteúdo de água no solo das
amostras, pela equação 32:
US =
TaraMBS
MBSMBU
−
−
×100 (32)
em que: US é o conteúdo de água no solo a base de peso (%), MBU é a massa
bruta úmida (g), MBS é a massa bruta seca (g) e Tara é a massa da cápsula
(g).
3.2.2 Porosidade Total e Densidade do Solo
Na determinação dos atributos: macro e microporosidade, porosidade
total do solo e densidade do solo foram empregados os métodos do anel
volumétrico e da mesa de tensão (KIEHL, 1979; EMBRAPA, 1997).
Para a determinação destes atributos, foi coletada com um cilindro
volumétrico, uma amostra em cada ponto, totalizando um número de 291
amostras indeformadas.
Após serem coletadas em campo e transportadas para o laboratório,
cada amostra de solo foi moldada de acordo com a forma do anel volumétrico.
40
40
Em seguida, as amostras foram saturadas em água por 24 horas, pesadas e
colocadas em uma mesa de tensão sob sucção de – 0,60 m de coluna de
água, por 48 horas. Retiradas da mesa de tensão, cada amostra foi pesada e
colocada na estufa a 105 °C, por 24 horas. Depois dessa etapa, foi novamente
pesada. Com esses procedimentos e pelo método da diferença de pesagem,
foram determinados os valores dos atributos: macroporosidade,
microporosidade e porosidade total do solo.
A densidade do solo foi determinada pela equação (1).
3.2.3 Grau de Compactação
O grau de compactação do solo foi obtido pela equação (33).
GC =
100×
Max
D
Ds
(33)
em que: GC é o grau de compactação (%),
Ds
é a densidade do solo (Mg m
-3
)
e
Max
D
é a densidade máxima do solo (Mg m
-3
).
Para obtenção da densidade máxima do solo com teor de umidade
ótimo (umidade crítica) de compactação, foi realizado em laboratório, o Ensaio
de Proctor Normal, pelo qual foi obtida a curva de compactação do solo.
Este ensaio consiste em compactar 5 corpos de prova, constituídos de
três camadas cada um deles, com umidades crescentes (26%, 28%, 30%, 32%
e 34%) em um cilindro de metal com volume de 1000 cm
3
.
Para compactar as camadas foi usado um soquete com peso de 2,5 kg,
com o qual foram aplicados 25 golpes em cada uma das camadas, soltando o
soquete de uma altura prefixada de 30,5 cm, correspondendo a uma energia de
compactação de 6 kg cm cm
-3
(RAGHAVAN; MICKYES, 1983, VILAR; BUENO,
1985, DIAS JÚNIOR, 2000). Cada um desses 5 corpos de prova fornece um
valor da densidade do solo, para o seu respectivo conteúdo de água. Esses
valores são utilizados para construir a curva de compactação deste solo.
41
41
3.2.4 Resistência do Solo à Penetração
A resistência do solo à penetração (RSP), em cada um dos pontos, foi
determinada com o uso de um penetrômetro eletrônico, desenvolvido por
TIEPPO (2004).
O Índice de Cone foi obtido de acordo com a norma da ASAE S313.1
(1976), utilizando-se uma haste com cone de diâmetro de 12,83 mm e ângulo
de 30°. Foram realizadas 4 repetições por ponto. A resistência do solo foi
determinada 22 dias antes da colheita do trigo. O conteúdo de água no solo no
período em que foram feitas as leituras da RSP com o penetrógrafo foi em
média 32,22% a base de peso.
3.2.5 Produtividade do Trigo
A unidade de análise em cada ponto de amostragem foi delimitada com
auxílio de um quadro de madeira com as dimensões de 1,0 m x 1,0 m, sempre
posicionado com o ponto de referência (ponto da transeção) no centro do
quadrado.
Foram colhidos, manualmente, os cachos de trigo pertencentes à
unidade de análise, utilizando-se uma pequena foice em forma de arco para o
corte dos pés de trigo que, depois de coletados, constituíram-se em um feixe e
foram passados, um a um, em uma pequena trilhadeira e, em seguida, foram
peneirados para a limpeza de detritos. Com os grãos de trigo descascados e
limpos, foi feita a medida de sua massa em uma balança digital com precisão
de 0,01 g e os valores convertidos em Mg ha
-1
(ROMAN, 2005).
O trigo (Triticum aestivum L.) foi plantado no dia 25 de maio e colhido
entre 24 e 26 de outubro de 2006. Esta safra teve problemas com a falta de
chuvas no período de crescimento, durante o qual ocorreu uma estiagem de,
aproximadamente, 120 dias.
Tabela 1 Precipitação mensal na região de Cascavel nos meses de maio a
outubro de 2006
MÊS PRECIPITAÇÃO (mm)
42
42
Maio 7,0
Junho 71,2
Julho 34,0
Agosto 67,6
Setembro 127,0
Outubro 112,6
Fonte: PARANÁ (2007).
A precipitação ocorrida no período de estiagem esteve muito abaixo da
média que é em torno de 160 mm mensais. Além disso, durante esse período,
ocorreram geadas, queimando grande parte dos pés de trigo, acabando com
qualquer perspectiva de uma produção mínima. Como resultado, foi colhido
somente trigo de péssima qualidade (triguilho).
3.2.6 Análise dos Dados
Para análise dos dados foram utilizados os programas:
- Minitab 14.0;
- Excel (Microsoft Office 2003);
- Golden software Surfer 8;
- GS+ For Windows (Versão Demo); e
- ASTSA (Applied Statistical Time Series Analysis).
Após a obtenção dos dados relativos aos atributos físicos do solo,
utilizando-se sempre a média das 3 transeções, foram realizadas:
1. A análise exploratória dos dados, usando a Estatística Clássica na
determinação de: média, desvio padrão, variância, coeficiente de
variação, curva de normalidade, gráfico de dispersão, boxplot;
2. O estudo da variabilidade e da dependência espacial dos atributos,
por meio de semivariogramas e de mapas temáticos obtidos por
interpolação por krigagem;
3. A verificação da dependência espacial, considerando as
coordenadas ou transeção espacial, por meio da função de
autocorrelação dos dados;
4. A verificação da crosscorrelação espacial entre os atributos
considerando a transeção espacial;
5. A aplicação da abordagem de Espaço de Estados no estudo da
relação entre os atributos;
43
43
6. O estudo da possível existência de influência dos atributos do solo
no desenvolvimento da variável resposta, produtividade de trigo.
44
44
4 RESULTADOS E DISCUSSÃO
A Figura 3 apresenta a curva de compactação do solo obtida pelo
ensaio de Proctor normal.
Ensaio de Proctor
1,2
1,25
1,3
1,35
1,4
1,45
20 22 24 26 28 30 32 34 36 38 40
Umidade (%)
Densidade do solo (Mg m
-3
)
Figura 3 Curva de compactação do solo.
Pela Figura 3, constatou-se que o ponto ótimo ou ponto de densidade
máxima, (D
Max
) é igual a 1,413 Mg m
-3
para umidade do solo de 32,08% a base
de peso. Este ponto foi utilizado na determinação do grau de compactação do
solo pela equação 33.
4.1 ANÁLISE DESCRITIVA E EXPLORATÓRIA DOS DADOS
A Figura 4 apresenta a distribuição do conteúdo de água no solo que
mostra uma tendência decrescente ao longo da transeção.
45
45
Figura 4 Comportamento de série conteúdo de água no solo ao longo da
transeção.
A Tabela 2 apresenta os valores da estatística descritiva, da média das
três transeções, para conteúdo de água no solo (US), os quais apresentaram a
média dos dados de 30,02 kg kg
-1
. A pequena variação dos dados em relação à
média, expresso pelo coeficiente de variação (CV) de 4,87%, indica uma
distribuição de dados homogênea em torno da média. O teste de
Kolmogorov-Smirnov indica que os dados possuem características de
distribuição normal de probabilidade, ao nível de 5% de significância.
Tabela 2 Estatística descritiva da variável conteúdo de água no solo (US)
(kg kg
-1
)
VARIÁVEL N Méd Var CV(%) Min Max KS
US 97 30,02 2,14 4,87 26,60 35,12 0,075
Nota: N : número de dados; Med: média; Var: variância; CV: coeficiente de variação; Min:
valor mínimo; Max: valor máximo; KS: teste de Kolmogorov-Smirnov (5% de
significância).
O gráfico boxplot da Figura 5 mostra que há um ponto entre os dados
que pode ser considerado discrepante e o histograma mostra uma curva
simétrica, indicando distribuição normal de dados.
46
46
a) b)
Conteúdo de água
35
34
33
32
31
30
29
28
27
26
Conteúdo de água
Frequency
34.533.031.530.028.527.0
14
12
10
8
6
4
2
0
Figura 5 Boxplot (a) e histograma (b) com curva normal teórica do conteúdo de
água no solo.
A Figura 6 apresenta a distribuição da porosidade total do solo (PT)
que varia, mostrando um ponto mínimo entre os pontos 20 e 30 e oscila com
tendência decrescente/crescente formando uma curva ao longo da transeção.
Figura 6 Comportamento da série porosidade total do solo ao longo da
transeção.
Na Tabela 3 são apresentados os valores da estatística descritiva, da
média das três transeções, para porosidade total do solo (PT). A média dos
47
47
valores é de 55,9 m
3
m
-3
, com um mínimo de 50,7 m
3
m
-3
e com um máximo de
59,84 m
3
m
-3
, que corresponde ao intervalo de ocorrência para solos argilosos
(Latossolos), que é de 40 m
3
m
-3
a 60 m
3
m
-3
(AZEVEDO; DALMOLIN,2004).
Resultados semelhantes foram obtidos em áreas vizinhas por MILANI
(2005) e BONINI (2006). O coeficiente de variação (CV) de 3,11% indica
pequena variação dos dados em relação à média, mostrando uma distribuição
de dados homogênea. O teste de Kolmogorov-Smirnov indica que os dados
possuem características de distribuição normal de probabilidade, ao nível de
5% de significância.
Tabela 3 Estatística descritiva da variável porosidade total (PT) (m
3
m
-3
)
VARIÁVEL N Méd Var CV(%) Min Max KS
PT 97 55,90 3,03 3,11 50,70 59,84 0,052
Nota: N: número de dados; Med: média; Var: variância; CV: coeficiente de variação; Min:
valor mínimo; Max: valor máximo; KS: teste de Kolmogorov-Smirnov (5% de
significância).
O gráfico boxplot da Figura 7 mostra que há um ponto entre os dados
que pode ser considerado discrepante e o histograma mostra uma curva
simétrica, indicando distribuição normal de dados.
a) b)
Porosidade total
60
58
56
54
52
50
Porosidade total
Frequency
6058565452
25
20
15
10
5
0
Figura 7 Boxplot (a) e histograma (b) com curva normal teórica da porosidade
total do solo.
48
48
A Figura 8 apresenta a distribuição da densidade do solo (DS) que
varia, mostrando oscilação com tendência crescente/decrescente e forma uma
curva voltada para baixo, ao longo da transeção.
Figura 8 Comportamento da série densidade do solo ao longo da transeção.
A Tabela 4 apresenta os valores da estatística descritiva, da média das
três transeções, para densidade do solo (DS), os quais tiveram a média dos
dados de 1,145 Mg m
-3
. O coeficiente de variação (CV), igual a 3,01%, indica
uma variação muito pequena dos dados em relação à média e mostra que sua
distribuição é homogênea.
Resultados semelhantes foram obtidos em áreas vizinhas por MILANI
(2005) e BONINI (2006). O teste de Kolmogorov-Smirnov indica que os dados
possuem características de distribuição normal de probabilidade, ao nível de
5% de significância.
Tabela 4 Estatística descritiva da variável densidade do solo (DS) (Mg m
-3
)
VARIÁVEL N Med Var CV(%) Min Max KS
DS 97 1,145 0,0012 3,01 1,050 1,213 0,055
Nota: N: número de dados; Med: média; Var: variância; CV: coeficiente de variação; Min:
valor mínimo; Max: valor máximo; KS: teste de Kolmogorov-Smirnov (5% de
significância).
49
49
O gráfico boxplot da Figura 9 mostra que há um ponto entre os dados
que pode ser considerado discrepante e o histograma mostra uma curva
simétrica, indicando distribuição normal de dados.
a) b)
Densidade do solo
1.225
1.200
1.175
1.150
1.125
1.100
1.075
1.050
Densidade do solo
Frequency
1.201.171.141.111.081.05
18
16
14
12
10
8
6
4
2
0
Figura 9 Boxplot (a) e histograma (b) com curva normal teórica da densidade
do solo.
A Figura 10 apresenta a distribuição do grau de compactação do solo
(GC) que varia, mostrando mesma tendência da série densidade do solo, ao
longo da transeção.
Figura 10 Comportamento da série grau de compactação do solo ao longo da
transeção.
50
50
A Tabela 5 apresenta os valores da estatística descritiva, da média das
três transeções, para grau de compactação (GC), os quais tiveram a média de
81,05%. O coeficiente de variação (CV) de 2,99% indica pequena variação dos
dados em relação à média mostrando uma distribuição de dados homogênea.
O teste de Kolmogorov-Smirnov indica que os dados possuem características
de distribuição normal de probabilidade, ao nível de 5% de significância.
Tabela 5 Estatística descritiva da variável grau de compactação (GC) (%)
VARIÁVEL N Méd Var CV(%) Min Max KS
GC 97 81,05 5,86 2,99 74,55 85,55 0,055
Nota: N: número de dados; Med: média; Var: variância; CV: coeficiente de variação; Min:
valor mínimo; Max: valor máximo; KS: teste de Kolmogorov-Smirnov (5% de
significância).
O gráfico boxplot da Figura 11 mostra que não há nenhum ponto entre
os dados que pode ser considerado discrepante e o histograma mostra uma
curva simétrica, indicando distribuição normal de dados.
a) b)
Grau de compactação
85.0
82.5
80.0
77.5
75.0
Grau de compactação
Frequency
868482807876
20
15
10
5
0
Figura 11 Boxplot (a) e histograma (b) com curva normal teórica do grau de
compactação do solo.
A Figura 12 apresenta a distribuição da resistência do solo à
penetração (RSP) com valores tendendo para o mínimo no ponto 8 e entre os
pontos 40 e 60 da transeção, mostrando um comportamento oscilatório e
indicando um processo periódico.
51
51
Figura 12 Comportamento da série resistência do solo à penetração (RSP) ao
longo da transeção.
A Tabela 6 apresenta os valores da estatística descritiva, da média das
três transeções, para resistência do solo à penetração (RSP). Os dados
observados tiveram a média de 2,42 MPa, sendo acima de 2,0 MPa, pode ser
considerado como uma resistência do solo limitante ao crescimento radicular
(SECCO, 2003).
Resultados semelhantes foram obtidos em uma área vizinha por
BONINI (2006). O coeficiente de variação (CV) igual a 11,16% indica pequena
variação dos dados em relação à média e mostra uma distribuição de dados
com média homogeneidade. O teste de Kolmogorov-Smirnov indica que os
dados possuem características de distribuição normal de probabilidade, ao
nível de 5% de significância.
Tabela 6 Estatística descritiva da variável resistência do solo à penetração
(RSP) (MPa)
VARIÁVEL N Méd Var CV(%) Min Max KS
RSP 97 2,42 0,073 11,16 1,88 2,96 0,054
Nota: N: número de dados; Med: média; Var: variância; CV: coeficiente de variação; Min:
valor mínimo; Max: valor máximo; KS: teste de Kolmogorov-Smirnov (5% de
significância).
52
52
O gráfico boxplot da Figura 13 mostra que não há nenhum ponto entre
os dados que pode ser considerado discrepante. Já o histograma mostra uma
curva simétrica, indicando distribuição normal de dados.
a) b)
Resistência do solo à penetração
3.0
2.8
2.6
2.4
2.2
2.0
Resistência do solo à penetração
Frequency
3.02.82.62.42.22.01.8
18
16
14
12
10
8
6
4
2
0
Figura 13 Boxplot (a) e histograma (b) com curva normal teórica da resistência
do solo à penetração.
A Figura 14 apresenta a distribuição da produtividade do trigo (PD) que
varia, mostrando comportamento oscilatório, ao longo da transeção com pico
máximo próximo do ponto 80, indicando a mesma tendência da RSP com um
processo periódico.
Figura 14 Comportamento da série produtividade do trigo ao longo da
53
53
transeção.
Na Tabela 7 mostram-se os resultados da estatística descritiva, da
média das três transeções, para produtividade do trigo (PD), a qual possui uma
produção mínima de 0,193 Mg ha
-1
e máxima de 0,582 Mg ha
-1
. A média de
0,331 Mg ha
-1
indica uma produtividade muito baixa em relação à média
regional, que situa-se em torno de 2,215 Mg ha
-1
(PARANÁ, 2007). O
coeficiente de variação (CV) de 25,29% indica alta variação dos dados em
relação à média e mostra uma distribuição de dados com alta heterogeneidade.
O teste de Kolmogorov-Smirnov indica que os dados possuem características
de distribuição normal de probabilidade, ao nível de 5% de significância.
Tabela 7 Estatística descritiva da variável produtividade do trigo (PD) (Mg ha
-1
)
VARIÁVEL N Med Var CV(%) Min Max KS
PD 97 0,331 0,007 25,29 0,193 0,582 0,081
Nota: N: número de dados; Med: média; Var: variância; CV: coeficiente de variação; Min:
valor mínimo; Max: valor máximo; KS: teste de Kolmogorov-Smirnov (5% de
significância).
O gráfico boxplot da Figura 15 mostra que há um ponto entre os dados
que pode ser considerado discrepante e o histograma mostra uma curva
simétrica, indicando que os dados apresentam uma distribuição normal de
dados.
a) b)
Produtividade do trigo
0.6
0.5
0.4
0.3
0.2
Produtividade do trigo
Frequency
0.5250.4500.3750.3000.2250.150
12
10
8
6
4
2
0
Figura 15 Boxplot (a) e histograma (b) com curva normal teórica da
produtividade do trigo.
54
54
4.2 AUTOCORRELAÇÃO
As figuras 16 a 21 apresentam os autocorrelogramas: conteúdo de
água no solo, porosidade total do solo, densidade do solo, grau de
compactação do solo, resistência do solo à penetração e produtividade do trigo,
respectivamente.
Nos autocorrelogramas, as linhas paralelas ao eixo central,
representam os limites do intervalo, ao nível de 95% de confiança. Os valores
acima e abaixo desses limites indicam os pontos que apresentam
autocorrelação ou dependência espacial em relação aos seus vizinhos. Cada
lag corresponde a um espaçamento entre pontos da transeção, delimitando um
espaço de 3 metros entre os pontos.
Na Figura 16, verifica-se que o autocorrelograma apresenta
autocorrelação até 14 lags, isso indica que há dependência espacial até
42 metros entre as observações da variável conteúdo de água no solo.
Figura 16 Função de autocorrelação do conteúdo de água no solo.
A Figura 17 apresenta autocorrelação até 12 lags, indicando que há
dependência espacial até 36 metros entre as observações da variável
porosidade total do solo.
55
55
Figura 17 Função de autocorrelação da porosidade total do solo.
Na Figura 18, verifica-se que o autocorrelograma apresenta
autocorrelação até 4 lags, indicando que há dependência espacial até
12 metros entre as observações da variável densidade do solo.
Figura 18 Função de autocorrelação da densidade do solo.
Na Figura 19, verifica-se que o autocorrelograma apresenta
autocorrelação até 4 lags, indicando que há dependência espacial até
12 metros entre as observações da variável compactação do solo.
56
56
Figura 19 Função de autocorrelação do grau de compactação do solo.
A Figura 20 apresenta autocorrelação até 9 lags, fato que indica que há
dependência espacial até 27 metros entre as observações da variável
resistência do solo à penetração.
Figura 20 Função de autocorrelação da resistência do solo à penetração.
57
57
A Figura 21 apresenta autocorrelação até 12 lags, indicando que há
dependência espacial até 36 metros entre as observações da variável
produtividade do trigo.
Figura 21 Função de autocorrelação da produtividade do trigo.
4.3 CROSSCORRELAÇÃO
Nos crosscorrelogramas, as linhas paralelas ao eixo central,
representam os limites do intervalo, ao nível de 95% de confiança. Os valores
acima e abaixo destes limites, contados a partir do espaçamento zero, indicam
os pontos nos quais as variáveis apresentam correlação ou dependência
espacial entre si.
O crosscorrelograma mostrado na Figura 22, correlacionando a
produtividade do trigo com o conteúdo de água no solo, indica que as duas
variáveis não são correlacionadas, pois não existem valores acima ou abaixo
dos limites de confiança a partir do ponto zero. Isso significa que elas não
apresentam dependência espacial entre si.
58
58
Figura 22 Função de crosscorrelação da produtividade do trigo versus
conteúdo de água no solo.
O crosscorrelograma apresentado na Figura 23, correlacionando a
produtividade do trigo com a porosidade total do solo, indica que as duas
variáveis não são correlacionadas, pois não existem valores acima ou abaixo
dos limites de confiança a partir do ponto zero, logo, estas variáveis não
possuem dependência espacial entre si.
Figura 23 Função de crosscorrelação da produtividade do trigo versus
porosidade total do solo.
59
59
O crosscorrelograma apresentado na Figura 24, correlacionando a
produtividade do trigo com a densidade do solo, indica que as duas variáveis
têm uma correlação inversamente proporcional até 3 lags, pois existem valores
abaixo dos limites de confiança a partir do ponto zero. Estas variáveis estão
correlacionadas até uma distância de 9 metros.
Figura 24 Função de crosscorrelação da produtividade do trigo versus
densidade do solo.
O crosscorrelograma apresentado na Figura 25, correlacionando a
produtividade do trigo com o grau de compactação do solo, indica que as duas
variáveis são correlacionadas negativamente ou inversamente proporcionais
até 3 lags, tendo dependência espacial até 9 metros. Pelos crosscorrelogramas
das figuras 24 e 25, verifica-se que os comportamentos das variáveis:
densidade do solo e grau de compactação, em relação à produtividade do trigo
são semelhantes.
60
60
Figura 25 Função de crosscorrelação da produtividade do trigo versus grau de
compactação do solo.
O crosscorrelograma apresentado na Figura 26, correlacionando a
produtividade do trigo com a resistência do solo à penetração, indica que as
duas variáveis têm correlação diretamente proporcional até 8 lags, pois existem
valores acima dos limites de confiança a partir do ponto zero. Esta variável
apresenta dependência espacial até 24 metros.
Figura 26 Função de crosscorrelação da produtividade do trigo versus
resistência do solo à penetração.
As figuras 16 a 21 indicam que os atributos: conteúdo de água no solo,
porosidade total, densidade do solo, grau de compactação, resistência do solo
à penetração e produtividade do trigo apresentam autocorrelação. Porém, nos
crosscorrelogramas apresentados nas figuras 22 a 26, somente os das figuras
24, 25 e 26 indicam crosscorrelação entre os atributos: densidade do solo, grau
de compactação, resistência do solo à penetração e produtividade do trigo. A
condição básica para que se possa aplicar a metodologia de Espaço de
Estados é que as variáveis em estudo apresentem autocorrelação e
crosscorrelação ou dependência espacial entre si. Portanto, a aplicação da
abordagem de Espaço de Estados é justificada somente para os atributos:
densidade do solo, grau de compactação, resistência do solo à penetração e
produtividade do trigo.
61
61
Como essa abordagem é uma metodologia que utiliza processos
estocásticos que são processos markovianos, a exigência de estacionaridade
de dados não é requerida. Porém, uma condição essencial é a normalização
dos dados, antes da aplicação da abordagem de Espaço de Estados, para que
a magnitude dos coeficientes φ torne-se diretamente proporcional à
contribuição de cada variável na estimativa de Z
j
(x
i
). O passo seguinte,
portanto, é a transformação dos dados pela equação 31.
4.4 ANÁLISE GEOESTATÍSTICA
4.4.1 Semivariogramas
A seguir, nas figuras 32 a 37, são mostrados os semivariogramas
experimentais omnidirecionais, ajustados aos dados amostrais dos 291 pontos
das três transeções, pelos modelos exponencial e esférico.
Para análise do grau de dependência espacial das variáveis foi
utilizada a relação “coeficiente efeito pepita”:
)(
01
0
CC
C
+
=
ε
×100.
Pela construção dos semivariogramas constatou-se que a distribuição
dos dados em estudo é um fenômeno isotrópico, o que significa que os
semivariogramas construídos para as diferentes direções (0°, 45°, 90° e 135°)
não apresentam diferenças relevantes e um mesmo modelo é adequado para
todos eles, indicando que a área de influência (o alcance de uma amostra) é
circular.
A Figura 27 apresenta o semivariograma do conteúdo de água no solo,
com modelo exponencial: C
0
= 2,36 (kg kg
-1
)
2
; C
0
+C
1
= 4,73 (kg kg
-1
)
2
;
a = 120,90 m e ε = 49,90%, indicando dependência espacial moderada entre
os dados.
62
62
Figura 27 Semivariogramas experimental e teórico do conteúdo de água no
solo.
A Figura 28 apresenta o semivariograma da porosidade total do solo,
com modelo exponencial: C
0
= 4,43 (m
3
m
-3
)
2
; C
0
+C
1
= 9,32 (m
3
m
-3
)
2
;
a = 72,90 m e ε = 47,50%, indicando dependência espacial moderada entre os
dados.
Figura 28 Semivariogramas experimental e teórico da porosidade total do solo.
63
63
A Figura 29 apresenta o semivariograma da densidade do solo, com
modelo exponencial: C
0
= 0,001 (Mg m
-3
)
2
; C
0
+C
1
= 0,004 (Mg m
-3
)
2
;
a = 27,30 m e ε = 23,20%, indicando forte dependência espacial entre os
dados.
Figura 29 Semivariogramas experimental e teórico da densidade do solo.
A Figura 30 apresenta o semivariograma do grau de compactação do
solo, com modelo exponencial: C
0
= 5,18; C
0
+C
1
= 21,33; a = 27,60 m e
ε = 24,20%, indicando forte dependência espacial entre os dados.
Figura 30 Semivariogramas experimental e teórico do grau de compactação do
64
64
solo.
A Figura 31 apresenta o semivariograma da resistência do solo à
penetração, com modelo esférico: C
0
= 0,072 (MPa)
2
; C
0
+C
1
= 0,161 (MPa)
2
;
a = 46,70 m e ε = 45,00%, indicando dependência espacial moderada entre os
dados. Pelos dados distribuídos no semivariograma verifica-se a periodicidade
já indicada pelo autocorrelograma.
Figura 31 Semivariogramas experimental e teórico da resistência do solo à
penetração.
A Figura 32 apresenta o semivariograma da produtividade do trigo, com
modelo exponencial: C
0
= 0,0049 (Mg ha
-1
)
2
; C
0
+C
1
= 0,0179 (Mg ha
-1
)
2
;
a = 45,60 m e ε = 27,30%, indicando dependência espacial moderada entre os
dados.
65
65
Figura 32 Semivariogramas experimental e teórico da produtividade do trigo.
Os semivariogramas das figuras 27 (ε = 49%), 28 (ε = 47%), 31
(ε = 45%) e 32 (ε = 27%) indicam dependência espacial moderada e os
semivariogramas das figuras 29 (ε = 23%) e 30 (ε = 24%), apresentam forte
dependência espacial para a área e espaçamentos utilizados na amostragem.
Esses resultados confirmam a existência de dependência espacial, já
observada nos autocorrelogramas destes dados.
4.4.2 Mapas Temáticos
Os mapas das figuras 33 a 38 foram construídos utilizando-se os 291
pontos amostrais das três transeções, com suas respectivas coordenadas
geográficas pelo método da krigagem, utilizando as estruturas de dependência
espacial obtidas dos semivariogramas. Os mapas apresentam a variabilidade
espacial dos atributos: US, PT, DS, GC, RSP e PD, na área experimental. O
polígono retangular em diagonal mostra o perímetro da área experimental.
A Figura 33 mostra o mapa de variabilidade espacial do conteúdo de
água no solo que apresenta dependência espacial moderada distribuída ao
longo da área de trabalho. Analisando o mapa temático, verifica-se que o local
onde ocorreram os mais baixos valores do conteúdo de água apresentou
66
66
também baixa produtividade. Esses pontos situam-se numa baixada ao Norte
do talhão.
22
25
28
31
34
37
39
243850 243900 243950 244000 244050
7243950
7244000
7244050
7244100
Figura 33 Mapa temático do conteúdo de água no solo (kg kg
-1
).
A Figura 34 apresenta o mapa de variabilidade espacial da porosidade
total do solo que mostra dependência espacial moderada distribuída ao longo
da área experimental. Verifica-se que a porosidade total é maior nos dois
extremos do talhão nos pontos em que a densidade do solo é menor.
243850 243900 243950 244000 244050
7243950
7244000
7244050
7244100
46
49
52
55
58
61
63
65
67
67
Figura 34 Mapa temático da porosidade total do solo (m
3
m
-3
).
A Figura 35 apresenta o mapa de variabilidade espacial da densidade
do solo que mostra forte dependência espacial distribuída ao longo da área
experimental. Observando o mapa temático, verifica-se que na área em que
ocorreu a menor densidade, a umidade gravimétrica apresentou o maior valor e
a produtividade também foi a maior.
243850 243900 243950 244000 244050
7243950
7244000
7244050
7244100
0.98
1.04
1.1
1.16
1.22
1.28
1.3
Figura 35 Mapa temático da densidade do solo (Mg m
-3
).
A Figura 36 apresenta o mapa de variabilidade espacial do grau de
compactação do solo que mostra forte dependência espacial distribuída ao
longo da área experimental. Pode-se verificar certa semelhança entre os
mapas da DS e GC, pois o grau de compactação foi calculado utilizando-se os
valores da densidade do solo. Todas as análises anteriores já demonstraram
isso.
68
68
243850 243900 243950 244000 244050
7243950
7244000
7244050
7244100
70
74
78
82
86
90
92
Figura 36 Mapa temático do grau de compactação do solo (%).
A Figura 37 mostra o mapa temático de variabilidade espacial da
resistência do solo à penetração que apresenta dependência espacial
moderada distribuída ao longo da área experimental. Nos locais em que foram
encontradas as menores RSP, a produtividade do trigo também apresentou os
menores valores. Já nos locais onde a RSP foi alta, ocorreram baixa taxa de
umidade e média porosidade total do solo.
243850 243900 243950 244000 244050
7243950
7244000
7244050
7244100
1.5
1.9
2.3
2.7
3.1
3.5
69
69
Figura 37 Mapa temático da resistência do solo à penetração (MPa).
A Figura 38 apresenta o mapa de variabilidade espacial da
produtividade do trigo que mostra dependência espacial moderada distribuída
ao longo da área experimental. Analisando o mapa temático, verifica-se que a
região central da área de trabalho foi o local em que ocorreu a menor
produtividade. A região que apresentou a maior produtividade do trigo teve a
mais baixa densidade do solo, média taxa de porosidade total e média RSP.
Este local situa-se próximo à cabeceira do talhão, ao Sul.
243850 243900 243950 244000 244050
7243950
7244000
7244050
7244100
0.1
0.3
0.5
0.65
0.75
0.8
Figura 38 Mapa temático da produtividade do trigo (Mg ha
-1
).
4.5 ESPAÇO DE ESTADOS
Os dados foram analisados pela abordagem de Espaço de Estados
usando o programa Applied Statistical Time Series Analysis – ASTSA. Todos
os dados foram normalizados pela equação 31.
Como os atributos: conteúdo de água no solo e porosidade total do
solo não apresentaram correlação espacial com a produtividade de trigo, eles
não devem ser usados na abordagem de Espaço de Estados, portanto,
utilizaram-se apenas os atributos: produtividade do trigo, densidade do solo,
grau de compactação e resistência do solo à penetração.
70
70
A Tabela 8 apresenta as regressões lineares dinâmicas na forma de
Espaço de Estados e os respectivos coeficientes de determinação (R
2
) das
regressões dos dados estimados em função dos dados observados.
A equação de estado do sistema (equação 18) foi usada em 6
diferentes combinações das variáveis em estudo para avaliar o comportamento
do modelo com respeito às estimativas dos valores observados.
Analisando-se os resultados apresentados na Tabela 8, verifica-se que
o melhor desempenho entre as equações de estados, foi o da equação que
combinou PD e RSP. Para essa equação a contribuição da PD na posição i-1
foi a menor, mas o seu coeficiente R
2
= 0,849 foi o maior em relação aos
demais. Isso significa que as variações locais RSP, ao longo da transeção
foram as mais importantes relacionadas à distribuição espacial para
produtividade do trigo.
Tabela 8 Equações de espaço de estados da produtividade do trigo usando os
dados de: densidade do solo, grau de compactação e resistência do
solo à penetração
EQUAÇÕES ESTIMADAS R
2
PDi = 0,8824PD
i-1
+ 0,0424GC
i-1
+ 0,0681RSP
i-1
0,836
PDi = 0,8837PD
i-1
– 0,0423DS
i-1
+ 0,0670RSP
i-1
0,834
PDi = 0,9175PD
i-1
+ 0,0045DS
i-1
+ 0,0776GC
i-1
0,782
PDi = 0,9313PD
i-1
+ 0,0639GC
i-1
0,809
PDi = 0,8696PD
i-1
+ 0,1178RSP
i-1
0,849 *
PDi = 0,9314PD
i-1
+ 0,0638DS
i-1
0,808
Nota: PD: produtividade do trigo; DS: densidade do solo; GC: grau de compactação; RSP:
resistência do solo à penetração; R2: coeficiente de determinação; *: melhor
combinação.
A Tabela 8 mostra que as equações de Espaço de Estados descrevem
a produtividade do trigo melhor do que qualquer equação equivalente de
regressão clássica. O modelo de Espaço de Estados usando três séries (PD,
GC, RSP) descreve a produtividade (R
2
= 0,836) melhor do que o modelo
equivalente, usando a equação de regressão múltipla convencional
(R
2
= 0,217).
Como a densidade do solo e o grau de compactação mostram o
mesmo comportamento, em relação à produtividade do trigo:
PDi = 0,9314PD
i-1
+ 0,0638DS
i-1
, R
2
= 0,808;
PDi = 0,9313PD
i-1
+ 0,0639GC
i-1
, R
2
= 0,809,
71
71
não seria adequado usar as duas variáveis na análise. Do ponto de vista
estatístico seria como se a mesma variável fosse usada duas vezes, por isso,
utilizaram-se somente os atributos: grau de compactação, resistência do solo à
penetração e produtividade do trigo na abordagem de Espaço de Estados.
O crosscorrelograma apresentado na Figura 39, correlacionando o grau
de compactação com a resistência do solo à penetração, indica que as duas
variáveis não são correlacionadas, verifica-se que essas variáveis não
possuem dependência espacial entre si.
Figura 39 Função de crosscorrelação do grau de compactação versus
resistência do solo à penetração.
As figuras 40, 42 e 44 apresentam a distribuição dos dados observados
e dos dados estimados e a regressão linear entre os valores estimados e
observados da produtividade do trigo em função de: produtividade do trigo,
grau de compactação e resistência do solo à penetração, utilizando a análise
de Espaço de Estados. A distribuição de dados no gráfico (a) das figuras 40, 42
e 44 representados pelos pontos em vermelho são os dados estimados pelas
equações de Espaço de Estados e os pontos em preto são os dados
observados.
Na Figura 40 vê-se que os dados estimados mostram variação próxima
da variação dos dados observados. Isto quer dizer que, a estimativa dos dados
é satisfatória e o modelo utilizado para a estimativa é bom. A regressão linear
72
72
apresentada no segundo gráfico, entre os dados estimados e os dados
observados da produtividade do trigo tem o coeficiente R
2
= 0,809, indicando
que a estimativa dos dados é satisfatória. Pode-se verificar, a partir da equação
de estado, que a produtividade na posição i-1 contribui com, aproximadamente,
93,1% na estimativa da produtividade na posição i, enquanto que o grau de
compactação na posição i-1 contribui com 6,3%.
(a) (b)
Prod. Observ.
Prod. Estim.
1.41.21.00.80.60.40.20.0
1.1
1.0
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
S 0.0836125
R-Sq 80.9%
R-Sq (adj) 80.7%
PD = PD GC
Prod. Estim. = 0.1574 + 0.6851 Prod. Observ.
Figura 40 Distribuição dos dados observados e dos dados estimados (a) e
regressão linear (b) entre os dados da produtividade do trigo e do
grau de compactação do solo. PDi = 0,9313PD
i-1
+ 0,0639GC
i-1
,
(R
2
= 0,809).
Nas figuras 41, 43 e 45, a linha do meio representa os valores
estimados da produtividade do trigo aplicando-se a equação de estado. As
linhas superior e inferior representam os limites de confiança, ao nível de 95%
de significância, considerando mais ou menos dois desvios-padrão da
estimativa em cada posição i, correspondendo à área em que o modelo
apresenta o melhor desempenho.
73
73
Pontos da transeção (Lags)
Produtividade
9080706050403020101
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Figura 41 Análise de espaço de estados aplicada à produtividade do trigo na
posição i como função da produtividade do trigo e do grau de
compactação do solo na posição i-1.
Na Figura 42, verifica-se que os dados estimados mostram uma
variação bem próxima à variação dos dados observados. Isto significa que, a
estimativa dos dados é boa e o modelo utilizado para a estimativa é bom. A
regressão linear apresentada no segundo gráfico, entre os dados estimados e
os dados observados da produtividade do trigo, tem o coeficiente R
2
= 0,849,
indicando que a estimativa dos dados é satisfatória. É possível verificar, a partir
da equação de estado, que a produtividade na posição i-1 contribui com,
aproximadamente, 86,9% na estimativa da produtividade na posição i,
enquanto que a resistência do solo à penetração na posição i-1 contribui
somente com 11,7%.
(a) (b)
Prod. Observ.
Prod. Estim.
1.41.21.00.80.60.40.20.0
1.1
1.0
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
S 0.0762319
R-Sq 84.9%
R-Sq(adj) 84.8%
PD = PD RSP
Prod. Estim. = 0.1399 + 0.7201 Prod. Observ.
74
74
Figura 42 Distribuição dos dados observados e dos dados estimados (a)
regressão linear (b) entre os dados da produtividade do trigo e da
resistência do solo à penetração. PDi = 0,8696PD
i-1
+ 0,1178RSP
i-1
,
(R
2
= 0,849).
Pontos da transeção (Lags)
Produtividade
9080706050403020101
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Figura 43 Análise de Espaço de Estados aplicada à produtividade do trigo na
posição i, como função da produtividade do trigo e da resistência do
solo à penetração na posição i-1.
Na Figura 44 observa-se que os dados estimados mostram variação
que se aproxima da variação dos dados observados. Isso significa que, a
estimativa dos dados é satisfatória e o modelo utilizado para a estimativa é
considerado bom. A regressão linear apresentada no segundo gráfico, entre os
dados estimados e os dados observados da produtividade do trigo tem o
coeficiente R
2
= 0,836, indicando que a estimativa dos dados é satisfatória.
Verifica-se, a partir da equação de estado, que a produtividade na posição i-1
contribui com, aproximadamente, 88,2% na estimativa da produtividade na
posição i, enquanto que o grau de compactação na posição i-1 contribui
somente com 4,2% e a resistência do solo à penetração com 6,8%.
(a) (b)
Prod. Observ.
Prod. Estim.
1.41.21.00.80.60.40.20.0
1.1
1.0
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
S 0.0808870
R-Sq 83.6%
R-Sq(adj) 83.4%
PD = PD GC RSP
Prod. Estim. = 0.1348 + 0.7272 Prod. Observ.
75
75
Figura 44 Distribuição dos dados observados e dos dados estimados (a) e
regressão linear (b) entre os dados da produtividade do trigo, do
grau de compactação e resistência do solo à penetração:
PDi = 0,8824PD
i-1
+ 0,0424GC
i-1
+ 0,0681RSP
i-1
, (R
2
= 0,836).
Pontos da transeção (Lags)
Produtividade
9080706050403020101
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Figura 45 Análise de espaço de estados aplicada à produtividade do trigo na
posição i, como função da produtividade do trigo, do grau de
compactação e da resistência do solo à penetração na posição i-1.
76
76
5 CONCLUSÕES
• O objetivo deste trabalho foi atingido quando se obtiveram os modelos
em Espaço de Estado relacionados à produtividade do trigo com os
atributos físicos do solo estudados e verificou-se a influência desses
atributos na produtividade do trigo e quando se conseguiu verificar a
vantagem dos Modelos em Espaço de Estados quando comparados
aos modelos de regressão simples e múltipla da estatística clássica.
• Por meio da análise geoestatística foi constatado que a distribuição
dos dados em estudo é um fenômeno isotrópico, o que significa que
os semivariogramas construídos para as diferentes direções não
apresentam diferenças relevantes e um mesmo modelo é adequado
para todos eles, indicando que a área de influência (o alcance de uma
amostra) é circular.
• A análise geoestatística dos atributos: conteúdo de água no solo,
porosidade total do solo, resistência do solo à penetração e
produtividade do trigo apresentou, dependência espacial moderada e
a densidade do solo e o grau de compactação do solo apresentaram
forte dependência espacial para a área e espaçamentos utilizados na
amostragem.
• Pela análise dos autocorrelogramas constatou-se que todos os
atributos do solo em estudo apresentaram auto-dependência espacial.
Na análise dos crosscorrelogramas, foi constatada a existência de
dependência espacial somente entre a variável produtividade do trigo
e as variáveis: densidade do solo, grau de compactação e resistência
do solo à penetração.
• Com a aplicação da abordagem de Espaço de Estados, as variáveis
explicativas densidade do solo, grau de compactação do solo e
resistência do solo à penetração apresentaram correlação significativa
com a variável dependente produtividade do trigo. A resistência do
77
77
solo à penetração foi o atributo com a melhor correlação,
apresentando o coeficiente de determinação R
2
igual a 0,849. Os
demais atributos tiveram os coeficientes R
2
em torno de 0,800.
Comparando-se com os modelos estáticos convencionais, o atributo
resistência do solo à penetração teve o coeficiente de determinação R
2
igual a 0,102 e os demais atributos tiveram os seus coeficientes de
determinação R
2
abaixo de 0,087, na regressão convencional.
• Utilizando a metodologia de Espaço de Estados, as duas combinações
que indicaram os melhores resultados foram a combinação entre
produtividade do trigo e resistência do solo à penetração, que
apresentou a melhor estimativa para produtividade do trigo, com
coeficiente R
2
igual a 0,849, enquanto que a mesma combinação na
regressão convencional teve R
2
igual a 0,102. O segundo melhor
modelo entre os atributos foi para a produtividade do trigo, o grau de
compactação do solo e a resistência do solo à penetração, com R
2
igual a 0,836, sendo que a mesma combinação na regressão clássica
teve o coeficiente R
2
igual a 0,217. Desse modo, é possível perceber a
vantagem da abordagem de Espaço de Estados em relação a outros
métodos de estimativa e previsão para o relacionamento no sistema
solo-planta.
• Os modelos estatísticos utilizando Espaço de Estados mostram que a
estimativa da variável resposta, produtividade do trigo na posição i, em
função das variáveis: densidade do solo, grau de compactação do solo
e resistência do solo à penetração na posição i -1, é mais eficiente do
que a estimativa realizada por meio da regressão simples e múltipla
clássica.
78
78
REFERÊNCIAS
AMERICAN SOCIETY OF AGRICULTURAL ENGINEERS - ASAE. Soil cone
penetrometer. In: ASAE (ED). Agricultural Engineers Handbook. St. Joseph:
Soil cone penetrometer, p. 368-369 (ASAE Rec., 313.1), 1976.
APPLIED STATISTICAL TIME SERIES ANALYSIS - ASTSA. Disponível em:
<http://www.stat.pitt.edu/stoffer/tsa2>. Acesso em 26, abr. 2006.
AZEVEDO, A. C.; DALMOLIN, R. S. D. Solos e ambiente: Uma introdução.
Santa Maria: Pallotti, 2004. 100 p.
BALASTREIRE, L. A. Avanços na agricultura de precisão no Brasil no
período de 1999 – 2001. Piracicaba: Gráfica da USP, 2002. 347 p.
BONINI, A. K. Compactação de um latossolo vermelho distroférrico sob
sistema plantio direto e rendimento de grãos de trigo, soja e milho. 2006.
128 f. Dissertação (Mestrado em Engenharia Agrícola) - Centro de Ciências
Exatas e Tecnológicas, Universidade Estadual do Oeste do Paraná, Cascavel,
2006.
BRESLER, E.; DASBERG, S.; RUSSO, D.; DAGAN, G. Spatial variability of
crop yield as a stochastic soil process. Soil Science Society of America
Journal, Madison, v. 45, p. 600-605, 1981.
CAMARGO, A. P.; SENTELHAS, P. C. Avaliação do desempenho de diferentes
métodos de estimativa da evapotranspiração potencial no estado de São Paulo,
Brasil. Revista Brasileira de Agrometeorologia, Santa Maria, v. 5, n. 1,
p. 89-97, 1997.
CARVALHO, J. R. P.; DECHENS, S. C. F.; DUFRANC, G. Variabilidade
espacial da agregação do solo avaliada pela geometria fractal e geoestatística.
Revista Brasileira de Ciência do Solo, Viçosa, v. 28, p. 1-9, 2004.
CASSEL, D. K.; WENDROTH, O.; NIELSEN D. R. Assessing spatial variability
in an agricultural experiment station field: Opportunities arising from spatial
dependence, Agronomy Journal, Madison, v. 92, p. 706-714, 2000.
CRESSIE, N. Statistics for spatial data. New York: John Willey & Sons, inc.
1993. 900 p.
DEMPSTER, A, P.; LAIRD, N. M.; RUBIN, D. B. Maximum likelihood from
incomplete data via the EM algorithm. Journal of the Royal Statistical
Society, Oxford, v. 39, p. 1-38,1977.
DIAS JÚNIOR, M. S. Compactação do solo. In: NOVAIS, R. F.; ALVAREZ, V.
H.; SCHAEFER, C. E. G. R. (eds.) Tópicos em ciência do solo. v. 1. Viçosa:
Sociedade Brasileira de Ciência do Solo, 2000. p. 55-89.
79
79
DIGGLE, P. J.; RIBEIRO JÚNIOR, P. J. Model based geostatistics. New
York: Springer, 2007. 230 p.
DOURADO-NETO, D.; TIMM, L. C.; OLIVEIRA, J. C. M.; REICHARDT, K.;
BACCHI, O. O .S.; TOMINAGA, T. T.; CASSARO, F. A. M. State-space
approach for the analysis of the soil water content and temperature in a
sugarcane crop. Scientia Agrícola, Piracicaba: v. 56, n. 4, p. 1215-1221, 1999.
EMPRESA BRASILEIRA DE PESQUISA AGROPECUÁRIA - EMBRAPA.
Centro Nacional de Pesquisa de Solos. Ministério da Agricultura e do
Abastecimento. Sistema Brasileiro de Classificação de Solos. Brasília:
EMBRAPA, 1999. 412 p.
------. Centro Nacional de Pesquisa de Solos. Ministério da Agricultura e do
Abastecimento. Manual de métodos de análise do solo. Rio de Janeiro:
1997. 212 p.
FIETZ, C. R.; FABRICIO, A. C.; SALTON, J. C. Mapa de aplicação localizada
de calcário de uma área experimental. In: BALASTREIRE, L. A. O estado da
arte da agricultura de precisão no Brasil, Piracicaba: p.165-169, 2000.
GOLDEN SOFTWARE. Surfer for Windows. Version 8.0. Golden Software
Inc., Golden, Colorado. 2002.
GOMES, F. P. Curso de estatística experimental. 12. ed. Piracicaba: Ed.
Nobel, 1987. 467 p.
GS+ For Windows – Geostatistics for the environmental sciences.
demonstration version. Michigan, 2000.
HILL, R. C.; GRIFFITHS, W. E.; JUDGE, G. G. Econometria – 2. ed. São
Paulo: Saraiva, 2003. 471 p.
HILLEL, D. Environmental soil physics. San Diego: Academic Press, 1998.
771 p.
ISAAKS, E. H.; SRIVASTAVA, R. M. An introduction to applied
geostatistics. Oxford: Oxford University Press, 1989. 560 p.
KALMAN, R. E. A new approach to linear filtering and prediction problems.
Journal of Basic Engineering, New York, v. 8, p. 35-45, 1960.
------.; BUCY, R. S. New results in filtering and prediction theory. Journal of
Basic Engineering, New York, v. 83, p. 95-108, 1961.
KIEHL, E. J. Manual de edafologia: Relações solo-planta. São Paulo: Ceres,
1979. 121 p.
KOOPMAN, S. J.; SHEPHARD, N.; DOORNIK, J. A. Statistical algorithm for
models in State-Space using SsfPack 2.2 (with discussion). Econometrics
Journal, London, v. 2, p. 107-160, 1999.
80
80
LAPPONI, J. C. Estatística usando Excel. 4.
ed. Rio de Janeiro: Ed. Campus,
2005. 476 p.
LI, H.; LASCANO, R. J.; BOOKER, J.; WILSON, L. T.; BRONSON, K. F.;
SEGARRA, E. State-space description of heterogeneity: Water and nitrogen
use in cotton. Soil Science Society of America Journal, Madison, v. 66,
p. 585-595, 2002.
LIBARDI, P. L. Dinâmica da água no solo. São Paulo: EDUSP, 2005. 335 p.
MATHERON, G. Principles of geostatistics. Economic Geology. El Paso,
v. 58, p.1246–1266, 1964.
MICROSOFT OFFICE EXCEL – Microsoft Office Professional. Edição 2003,
Versão 7, Quito. 2003.
MILANI, D. I. C. Variabilidade espacial da infiltração de água e de atributos
físicos em um Latossolo sob sistema plantio direto. 2005. 124 f.
Dissertação (Mestrado em Engenharia Agrícola) - Centro de Ciências Exatas e
Tecnológicas, Universidade Estadual do Oeste do Paraná, Cascavel, 2005.
MINITAB. Minitab for Windows. Version 14.0 PA, USA: State College:
Statistical Software, 2003.
MOREIRA, M. C.; CECÍLIO, R. A.; PINTO, F. A. C.; PRUSKI F. F.
Desenvolvimento e análise de uma rede neural artificial para estimativa da
erosividade da chuva para o estado de São Paulo. Revista Brasileira de
Ciência do Solo, Viçosa, v. 30, p. 1069-1076, 2006.
MORETTIN, P. A.; TOLOI, C. M. C. Análise de séries temporais. São Paulo:
Edgard Blücher, 2004. 535 p.
MORKOC, F.; BIGGAR, J. W.; NIELSEN, D. R.; ROLSTON, D. E. Analysis of
soil water content and temperature using state-space approach. Soil Science
Society of America Journal, Madison, v. 49, p. 798-803, 1985.
MOTTA, A. C. O. Modelos de espaço de estados não-gaussianos e o
modelo de volatilidade estocástica. 2001. 165 f. Dissertação (Mestrado em
Estatística) - IMECC, Universidade Estadual de Campinas. Campinas, 2001.
PARANÁ. Secretaria de Estado da Agricultura e do Abastecimento - SEAB.
Governo do Estado do Paraná. Precipitação mensal na região de Cascavel
nos meses de maio a outubro de 2006. Disponível em:
http://www.pr.gov.br/seab/deral/pmpr.xls Acesso em: 14, jan. 2007.
PEREIRA, J. O.; SIQUEIRA, J. A. C.; URIBE-OPAZO, M. A.; SILVA, S. L.
Resistência do solo à penetração em função do sistema de cultivo e teor de
água do solo. Revista Brasileira de Engenharia Agrícola e Ambiental,
Campina Grande, v. 6, n. 1, p. 171-174, 2002.
81
81
PERFECT, E.; CARON, J. Spectral analysis of tillage-induced differences in soil
spatial variability. Soil Science Society of America Journal, Madison, v. 66,
p. 1587-1595, 2002.
POULSEN, T. G.; MOLDRUP, P.; WENDROTH, O.; NIELSEN D. R. Estimating
saturated hydraulic conductivity and air permeability from soil physical
properties using state-space analysis. Soil Science, Baltimore, v. 168, n. 5,
p. 311-320, 2003.
PREVEDELLO, C. L. Física do solo. Curitiba: Sociedade Autônoma de
Estudos Avançados em Física do Solo, 1996. 446 p.
RAGHAVAN, G. S. V.; MICKYES, E. Physical and hydraulic characteristics in
compacted clay soils. Journal of Terramechanics, Ontário, v. 19,
p. 235-242,1983.
REICHARDT, K.; TIMM, L.C. Solo, planta e atmosfera: conceitos, processos e
aplicações. Barueri: Manole, 2004. 478 p.
RIBEIRO JÚNIOR, P. J. Métodos geoestatísticos no estudo da
variabilidade espacial de parâmetros do solo. 1995. 99 f. Dissertação
(Mestrado em Agronomia) – Escola Superior de Agricultura “Luiz de Queiroz”,
Universidade de São Paulo, Piracicaba – SP, 1995.
ROMAN, M. Variabilidade espacial do desenvolvimento e da produtividade
do trigo (triticum aestivum). 2005. 119 f. Dissertação (Mestrado em
Engenharia Agrícola) – Centro de Ciências Exatas e Tecnológicas,
Universidade Estadual do Oeste do Paraná, Cascavel, 2005.
SECCO, D. Estados de compactação de dois latossolos sob plantio direto
e suas implicações no comportamento mecânico e na produtividade de
culturas. 2003. 108 f. Tese (Doutorado em Agronomia) - Universidade Federal
de Santa Maria, Santa Maria, 2003.
SHUAI, X.; YOST, R. S. State-space modeling to simplify soil phosphorus
fractionation. Soil Science Society of America Journal, Madison, v. 68,
p. 1437-1444, 2004.
SHUMWAY, R. H. Applied statistical time series analyses. New York:
Prentice Hall, 1988. 379 p.
SHUMWAY, R. H.; STOFFER, D. S. An approach to time series smoothing and
forecasting using the EM algorithm. Journal of Time Series Analysis,
Manchester, v. 3, p. 253-264, 1982.
------.; STOFFER, D. S. Time series analysis and its applications. New York:
Springer, 2000. 549 p.
SILVA, A. J. N.; CABEDA, M. S. V. Compactação e compressibilidade do solo
sob sistemas de manejo e níveis de umidade. Revista Brasileira de Ciência
do Solo, Viçosa, v. 30, p. 921-930, 2006.
82
82
SIMÕES, W. L.; SILVA, E. L.; LIMA, D. M.; OLIVEIRA, M. S. Variabilidade
espacial de atributos físicos de um latossolo vermelho distroférrico, submetidos
a diferentes manejos. Revista Brasileira de Ciência do Solo, Viçosa, v. 30,
p. 1061-1068, 2006.
SOANE, B. D.; VAN OUWERKERK, C, Soil compaction problems in words
agriculture. In: ------. Soil compaction in crop productions. Developments in
Agricultural Engineering. Elsevier, Amsterdam, v. 11, 1994.
SOUZA, E. G.; JOHANN, J. A.; ROCHA, J. V.; RIBEIRO, S. R. A.; SILVA, M.
S.; URIBE-OPAZO, M. A.; MOLIN, J. P.; OLIVEIRA, E. F.; NÓBREGA, L. H. P.
Variabilidade espacial dos atributos químicos do solo em um latossolo roxo
distrófico na região de Cascavel - PR. Revista da Sociedade Brasileira de
Engenharia Agrícola, Jaboticabal, v. 8, n. 3, p. 80-92, 1999.
TIEPPO, R. C. Desenvolvimento de um penetrômetro manual eletrônico.
2004. 133 f. Dissertação (Mestrado em Engenharia Agrícola) - Centro de
Ciências Exatas e Tecnológicas, Universidade Estadual do Oeste do Paraná,
Cascavel, 2004.
TIMM, L. C.; BARBOSA, E. P.; SOUZA, M. D.; DYNIA, J. F.; REICHARDT, K.
State-space analysis of soil data: an approach based on space-varying
regression models. Scientia Agrícola, Piracicaba: v. 60, n. 2, p. 371-376,
2003a.
------.; FANTE JUNIOR, L.; BARBOSA, E. P.; REICHARDT, K.; BACCHI, O. O.
S. Interação solo-planta avaliada por modelagem estatística de Espaço de
Estados. Scientia Agrícola, Piracicaba, v. 57, n. 4, p. 751-760, 2000.
------.; GOMES, D. T.; BARBOSA, E. P.; REICHARDT, K.; SOUZA, M. D.;
DYNIA, J. F. Neural Network and State-Space Models for Studying
Relationships among Soil Properties. Scientia Agrícola, Piracicaba, v. 63, n. 4,
p. 386-395, 2006.
------.; REICHARDT, K.; OLIVEIRA, J. C. M.; CASSARO, F. A. M.; TOMINAGA,
T. T.; BACCHI, O. O. S.; DOURADO-NETO, D.; NIELSEN, D. R. State-space
approach to evaluate the relation between soil physical and chemical
properties. Revista Brasileira de Ciência do Solo, Viçosa, v. 28, p. 49-58,
2004.
------. State-space approach for evaluating the soil-plant-atmosphere system.
Lectures Given at the College on Soil Physics. Trieste, v. 3-21, p. 389-427,
March 2003b.
TORMENA, C. A.; BARBOSA, M. C.; COSTA, A. C. S.; GONÇALVES, A. C. A.
Densidade, porosidade e resistência à penetração em latossolo cultivado sob
diferentes sistemas de preparo do solo. Scientia Agrícola, Piracicaba, v. 59,
n. 4, p. 795-801. 2002.
VAN LIER, Q. J. Índices da disponibilidade de água para as plantas. In:
NOVAIS, R. F.; ALVAREZ, V. H.; SCHAEFER, C. E. G. R. (eds.). Tópicos em
83
83
Ciência do Solo. v. 1, Viçosa: Sociedade Brasileira de Ciência do Solo, 2000.
p. 95-106.
VIERA, S.; HOFFMANN, R. Estatística Experimental. São Paulo: Atlas, 1989.
297 p.
VIEIRA, S. R. Geoestatística em estudos de variabilidade espacial do solo. In:
NOVAIS, R. F.; ALVAREZ, V. H.; SCHAEFER, C. E. G. R. (eds). Tópicos em
Ciência do Solo. v. 1, Viçosa: Sociedade Brasileira de Ciência do Solo. 2000.
p.1-54.
VILAR, M. O.; BUENO, B.S. Mecânica dos solos. v. 2. São Paulo: Gráfica da
USP, 1985. 219 p.
WENDROTH, O.; JÜRSCHIK, P.; KERSEBAUM, K. C.; REUTER, H.; VAN
KESSEL, C.; NIELSEN, D. R. Identifying, understanding and describing spatial
processes in agricultural landscapes – four case studies. Soil & Tillage
Research, Oxford, v. 58, p. 113-127, 2001.
WU, L.; SKAGGS, T. H.; SHOUSE, P. J.; AYARS, J. E. State-space analysis of
soil water and salinity regimes in a loam soil underlain by shallow groundwater.
Soil Science Society of America Journal, Madison, v. 65, p. 1065-1074,
2001.
84
84
ANEXOS
ANEXO A - COORDENADAS OBTIDAS POR GPS
Tabela 1 Coordenadas dos pontos das 3 transeções (291 pontos)
249 243934.3 7244013
250 243931.9 7244015
251 243929.5 7244017
252 243927.1 7244019
253 243924.5 7244020
254 243922.3 7244022
255 243919.8 7244024
256 243917.4 7244026
257 243915 7244027
258 243912.6 7244029
259 243910.1 7244031
260 243907.7 7244033
261 243905.3 7244035
262 243902.9 7244036
263 243900.4 7244038
264 243898 7244040
265 243895.6 7244042
266 243893.2 7244043
267 243890.8 7244045
268 243888.3 7244047
269 243885.9 7244049
270 243883.5 7244051
271 243881.1 7244052
272 243878.6 7244054
273 243876.2 7244056
274 243873.8 7244058
275 243871.4 7244059
276 243868.9 7244061
277 243866.5 7244063
278 243863.6 7244065
279 243860.7 7244067
280 243857.8 7244069
281 243854.9 7244072
282 243852 7244074
283 243849.1 7244076
284 243846.2 7244078
285 243843.3 7244080
286 243840.4 7244082
287 243837.5 7244084
288 243834.6 7244086
289 243831.7 7244089
290 243828.8 7244091
291 243825.9 7244093
86
86
ANEXO B - DADOS EXPERIMENTAIS OBTIDOS NO NEAA
Tabela 1B Dados experimentais do conteúdo de água no solo
Pontos
Conteúdo de água no solo (kg kg
-1
)
1
a
transeção 2
a
transeção 3
a
transeção
Dados
Média Normalizados
87
87
1 31.51 28.57 32.05 30.71 0.617
2 30.5 31.96 34.2 32.22 0.875
3 30.97 31.14 31.7 31.27 0.713
4 30.73 30.43 32.1 31.09 0.682
5 29.23 32.26 35.61 32.37 0.900
6 32.24 32.48 34.9 33.21 1.044
7 30.41 31.13 35.22 32.25 0.881
8 30.53 33.23 31.11 31.62 0.773
9 31.02 32.83 41.51 35.12 1.371
10 29.17 31.24 32.56 30.99 0.665
11 30.25 32.5 33.21 31.99 0.836
12 31.15 30.36 30.73 30.75 0.624
13 29.84 30.7 33.87 31.47 0.747
14 29.84 31.35 32.35 31.18 0.698
15 29.38 31.02 30.11 30.17 0.525
16 30.79 30.24 33.82 31.62 0.772
17 31.1 29.93 29.09 30.04 0.503
18 31.45 30.23 30.7 30.79 0.632
19 31.33 31.25 31.23 31.27 0.713
20 33 29.6 30.32 30.97 0.662
21 27.7 28.7 33.53 29.98 0.492
22 31.29 32.32 30.33 31.31 0.721
23 30.93 29.7 32.43 31.02 0.670
24 29.76 28.27 31.17 29.73 0.451
25 30.83 30.99 30.45 30.76 0.625
26 28.85 30.89 20.07 26.60 -0.084
27 29.35 29.26 29.81 29.47 0.406
28 30.4 32.56 31.1 31.35 0.727
29 29.68 30.9 29.63 30.07 0.508
30 28.99 29.58 30.93 29.83 0.468
31 30.71 29.4 25.81 28.64 0.264
32 28.61 29.98 29.58 29.39 0.392
33 32.21 28.81 29.12 30.05 0.504
34 30.88 29.88 31.56 30.77 0.628
35 30.53 26.93 30.31 29.26 0.369
36 33.05 27.21 31.64 30.63 0.604
37 30.22 27.84 32.38 30.15 0.521
38 33.26 30.94 30.59 31.60 0.769
39 27.66 29.12 32.32 29.70 0.445
40 34.18 30.8 30.54 31.84 0.810
41 31.23 27.73 32.54 30.50 0.582
42 33.79 29.24 30.8 31.28 0.714
43 35.07 26.82 30.86 30.92 0.653
44 32.51 27.08 32.68 30.76 0.625
45 30.98 28.75 30.24 29.99 0.495
46 30.83 30.36 30.84 30.68 0.612
47 29.99 30.13 31.33 30.48 0.579
48 31.23 29.35 32.23 30.94 0.656
49 31.66 30.88 29.61 30.72 0.619
50 30.72 30.86 31.08 30.89 0.648
51 32.42 29.96 31.64 31.34 0.725
52 31.86 31.62 32.01 31.83 0.809
53 31.32 31.35 28.82 30.50 0.581
54 30.31 29.87 29.95 30.04 0.504
55 28.97 29.84 30.45 29.75 0.454
88
88
Tabela 2B Dados experimentais da porosidade total do solo
Pontos
Porosidade total do solo (m
3
m
-3
)
1
a
transeção 2
a
transeção 3
a
transeção
Dados
Média Normalizados
89
89
1 53.04 61.28 55.89 56.74
0.619
2 54.47 59.36 56.27 56.70
0.614
3 58.58 59.55 60.49 59.54
1.022
4 58.83 58.56 58.07 58.49
0.871
5 59.54 60.82 57.82 59.39
1.001
6 57.15 59.24 56.45 57.61
0.745
7 50.74 60.9 53.95 55.20
0.398
8 52.21 58.84 55.3 55.45
0.435
9 56.73 56.55 60.59 57.96
0.794
10 58.18 58.63 57.34 58.05
0.808
11 55.77 58.96 58.33 57.69
0.756
12 54.87 59.2 56.47 56.85
0.635
13 57.4 60.06 54.36 57.27
0.696
14 56.97 57.99 57.92 57.63
0.747
15 58.4 58.53 57.29 58.07
0.811
16 56.09 58.9 53.1 56.03
0.518
17 57.06 58.6 54.86 56.84
0.634
18 55.89 55.91 50.23 54.01
0.228
19 62.17 60.24 44.44 55.62
0.458
20 56.52 60.49 53.95 56.99
0.655
21 54.81 54.94 47.01 52.25
-0.025
22 55.05 58.93 54.29 56.09
0.526
23 56.85 59.67 53.36 56.63
0.603
24 56.62 54.31 53.04 54.66
0.321
25 47.37 50.48 54.25 50.70
-0.248
26 55.36 54.82 52.2 54.13
0.245
27 54.87 53.94 55.75 54.85
0.349
28 56.63 51.94 58.73 55.77
0.480
29 58.34 46.21 56.28 53.61
0.170
30 51.46 54.76 51.05 52.42
0.000
31 52.07 53.21 50.51 51.93
-0.071
32 54 50.38 54.71 53.03
0.087
33 55.04 46.48 54.13 51.88
-0.078
34 52.58 55.66 53.8 54.01
0.228
35 53.96 53.31 54.33 53.87
0.207
36 57.98 55.96 51.46 55.13
0.389
37 54.13 52.11 54.85 53.70
0.183
38 57.53 56.18 54.21 55.97
0.510
39 55.41 56.63 52.34 54.79
0.340
40 59.81 55.61 53.9 56.44
0.577
41 58.9 55.1 53.38 55.79
0.484
42 54.82 57.46 54.76 55.68
0.468
43 57.03 57.29 51.02 55.11
0.386
44 56.55 55.2 53.69 55.15
0.391
45 59.43 54.49 52.47 55.46
0.436
46 55.28 56.98 50.63 54.30
0.269
47 49.88 57.58 51.49 52.98
0.080
48 57.96 56.93 52.12 55.67
0.466
49 58.11 55.1 51.94 55.05
0.377
50 57.43 58.16 51.82 55.80
0.485
51 58.04 55.62 53.01 55.56
0.450
52 60.22 52.16 54.89 55.76
0.479
53 57.15 56.05 51.52 54.91
0.357
54 56.09 51.86 53.33 53.76
0.192
55 56.8 52.87 52.78 54.15
0.248
90
90
91
91
TABELA 3B Dados experimentais da densidade do solo
Pontos
Densidade do solo (Mg m
-3
)
1
a
transeção 2
a
transeção 3
a
transeção
Dados
Média Normalizados
92
92
1 1.12 1.13 1.15 1.13
0.412
2 1.17 1.15 1.06 1.13
0.364
3 1.11 1.12 1.04 1.09
0.097
4 0.95 1.11 1.17 1.08
0.000
5 1.07 1.09 1.13 1.10
0.146
6 0.97 1.08 1.1 1.05
-0.193
7 1.06 1.05 1.09 1.07
-0.072
8 1.15 1.11 1.14 1.13
0.412
9 1.14 1.12 0.99 1.08
0.049
10 1.26 1.08 1.11 1.15
0.533
11 1.14 1.11 1.07 1.11
0.219
12 1.1 1.14 1.07 1.10
0.194
13 1.1 1.13 1.07 1.10
0.170
14 1.16 1.1 1.1 1.12
0.315
15 1.08 1.14 1.12 1.11
0.267
16 1.03 1.14 1.11 1.09
0.122
17 1.22 1.15 1.14 1.17
0.679
18 1.16 1.1 1.14 1.13
0.412
19 1.3 1.13 1.14 1.19
0.824
20 1.1 1.1 1.12 1.11
0.219
21 1.21 1.2 1.2 1.20
0.921
22 1.2 1.14 1.12 1.15
0.558
23 1.15 1.18 1.06 1.13
0.388
24 1.17 1.13 1.09 1.13
0.388
25 1.17 1.21 1 1.13
0.364
26 1.09 1.19 1.1 1.13
0.364
27 1.2 1.16 1.1 1.15
0.558
28 1.2 1.15 1 1.12
0.291
29 1.19 1.15 0.99 1.11
0.243
30 1.19 1.19 1.07 1.15
0.533
31 1.19 1.13 1.03 1.12
0.291
32 1.2 1.23 1 1.14
0.485
33 1.22 1.13 1.07 1.14
0.461
34 1.19 1.19 1.13 1.17
0.679
35 1.05 1.2 1.14 1.13
0.388
36 1.1 1.06 1.25 1.14
0.437
37 1.16 1.18 1.26 1.20
0.897
38 1.17 1.14 1.26 1.19
0.824
39 1.14 1.11 1.18 1.14
0.485
40 1.03 1.19 1.15 1.12
0.340
41 1.2 1.14 1.19 1.18
0.727
42 1.13 1.14 1.18 1.15
0.533
43 1.12 1.1 1.13 1.12
0.291
44 1.09 1.09 1.28 1.15
0.558
45 1.08 1.27 1.21 1.19
0.800
46 1.11 1.14 1.2 1.15
0.533
47 1.16 1.08 1.19 1.14
0.485
48 1.11 1.01 1.26 1.13
0.364
49 1.16 1.18 1.2 1.18
0.751
50 1.09 1.13 1.26 1.16
0.606
51 1.07 1.09 1.25 1.14
0.437
52 1.1 1.23 1.2 1.18
0.727
53 1.12 1.14 1.22 1.16
0.606
54 1.05 1.17 1.19 1.14
0.437
55 1.12 1.13 1.24 1.16
0.630
93
93
94
94
Tabela 4B Dados experimentais do grau de compactação do solo
Pontos
Grau de compactação do solo (%)
1
a
transeção 2
a
transeção 3
a
transeção
Dados
Média Normalizados
95
95
1 79.13 79.81 81.39 80.11
0.402
2 82.91 81.21 74.67 79.60
0.349
3 78.43 79.58 73.61 77.21
0.103
4 67.26 78.68 83.02 76.32
0.011
5 76.02 76.9 79.64 77.52
0.135
6 68.91 76.78 77.97 74.55
-0.171
7 75.2 74.06 76.95 75.40
-0.084
8 81.41 78.47 80.73 80.20
0.412
9 81.03 79.04 69.99 76.69
0.049
10 89.26 76.74 78.55 81.52
0.548
11 80.5 78.63 76.07 78.40
0.226
12 77.83 80.62 75.59 78.01
0.186
13 78.14 80.17 75.62 77.98
0.182
14 82.12 77.52 77.72 79.12
0.300
15 76.43 80.84 79.42 78.90
0.277
16 73.11 80.74 78.77 77.54
0.137
17 86.11 81.04 80.72 82.62
0.662
18 82.4 77.86 80.66 80.31
0.423
19 91.74 79.9 80.55 84.06
0.811
20 77.75 77.76 78.93 78.15
0.200
21 85.45 85.05 84.67 85.06
0.913
22 84.68 80.65 79.14 81.49
0.545
23 81.28 83.18 75.22 79.89
0.380
24 82.96 79.75 77.37 80.03
0.394
25 83.08 85.58 70.53 79.73
0.363
26 77.46 83.91 78.16 79.84
0.375
27 84.83 81.76 77.9 81.50
0.546
28 84.99 81.54 70.64 79.06
0.294
29 84.38 81.64 69.81 78.61
0.248
30 83.99 83.92 75.72 81.21
0.516
31 84.54 79.97 72.9 79.14
0.302
32 85.05 86.86 71.02 80.98
0.492
33 86.07 80.17 75.58 80.61
0.454
34 84.12 83.94 79.98 82.68
0.668
35 74.36 84.89 80.79 80.01
0.392
36 77.69 75.08 88.81 80.53
0.445
37 82.01 83.17 89.43 84.87
0.894
38 83.06 80.74 89.21 84.34
0.839
39 80.41 78.77 83.16 80.78
0.472
40 72.83 84.3 81.51 79.55
0.344
41 84.69 80.96 84.33 83.33
0.735
42 79.87 80.41 83.24 81.17
0.512
43 79.4 77.54 80.14 79.03
0.291
44 77.13 76.92 90.43 81.49
0.545
45 76.26 89.83 85.85 83.98
0.802
46 78.82 80.76 84.95 81.51
0.547
47 82.37 76.14 84.01 80.84
0.478
48 78.23 71.44 89.47 79.71
0.361
49 81.87 83.51 84.9 83.43
0.745
50 77.33 79.7 89.26 82.10
0.608
51 75.71 77 88.59 80.43
0.436
52 77.94 87.04 84.99 83.32
0.734
53 79.27 80.97 86.43 82.22
0.621
54 74.44 82.99 84.13 80.52
0.445
55 79.15 80.24 87.54 82.31
0.630
96
96
97
97
Tabela 5B Dados experimentais da resistência do solo à penetração
Pontos
Resistência do solo à penetração
(MPa)
1
a
transeção 2
a
transeção 3
a
transeção
Dados
Média Normalizados
98
98
1 2.094 2.836 3.044 2.66
0.719
2 2.231 2.206 2.475 2.30
0.392
3 1.822 2.329 2.842 2.33
0.417
4 2.748 2.429 1.914 2.36
0.447
5 2.084 2.952 2.566 2.53
0.605
6 2.051 2.074 2.054 2.06
0.166
7 2.126 1.993 1.584 1.90
0.019
8 2.292 2.712 2.011 2.34
0.424
9 1.751 2.347 1.849 1.98
0.094
10 1.783 2.829 2.216 2.28
0.366
11 2.076 2.605 2.467 2.38
0.465
12 1.982 3.05 1.928 2.32
0.407
13 2.098 2.871 2.284 2.42
0.497
14 2.658 2.395 2.167 2.41
0.487
15 2.343 2.677 2.307 2.44
0.520
16 2.496 2.287 2.655 2.48
0.554
17 2.358 2.683 2.95 2.66
0.725
18 2.554 2.769 2.436 2.59
0.653
19 2.43 2.258 2.901 2.53
0.601
20 2.456 2.678 2.745 2.63
0.690
21 2.176 3.019 3.067 2.75
0.808
22 2.679 2.625 2.004 2.44
0.514
23 2.4 2.387 2.538 2.44
0.519
24 2.178 2.97 1.977 2.38
0.458
25 2.527 3.433 2.161 2.71
0.765
26 2.487 3.175 2.57 2.74
0.799
27 2.944 2.704 3.197 2.95
0.988
28 2.467 2.886 2.391 2.58
0.649
29 3.315 2.702 2.785 2.93
0.975
30 2.567 2.611 2.676 2.62
0.682
31 2.408 2.196 2.325 2.31
0.397
32 3.025 2.037 2.711 2.59
0.657
33 3.143 2.076 2.546 2.59
0.655
34 2.523 2.641 2.737 2.63
0.697
35 2.186 2.636 3.052 2.62
0.689
36 2.127 3.22 2.804 2.72
0.774
37 2.25 2.506 1.808 2.19
0.285
38 1.8 2.523 2.063 2.13
0.230
39 2.472 1.695 2.201 2.12
0.224
40 1.683 2.224 2.292 2.07
0.172
41 2.006 1.762 2.103 1.96
0.071
42 2.16 2.091 1.814 2.02
0.131
43 1.557 2.245 2.426 2.08
0.181
44 1.964 1.838 2.523 2.11
0.211
45 2.266 1.954 2.439 2.22
0.314
46 1.729 2.367 2.364 2.15
0.253
47 1.996 2.013 2.191 2.07
0.172
48 1.809 1.993 2.803 2.20
0.297
49 1.695 2.178 2.366 2.08
0.184
50 1.523 2.409 2.202 2.04
0.152
51 1.635 1.632 2.377 1.88
0.001
52 1.764 1.734 2.411 1.97
0.083
53 2 2.541 2.249 2.26
0.354
54 2.157 2.289 2.111 2.19
0.282
55 2.01 2.291 1.893 2.06
0.170
99
99
100
100
Tabela 6B Dados experimentais da produtividade do trigo
Pontos
Produtividade do trigo (Mg ha
-1
)
1
a
transeção 2
a
transeção 3
a
transeção
Dados
Média Normalizados
101
101
1 0.397 0.241 0.204 0.280 0.348
2 0.409 0.419 0.274 0.367 0.606
3 0.363 0.303 0.212 0.293 0.385
4 0.415 0.332 0.455 0.401 0.707
5 0.531 0.314 0.295 0.380 0.644
6 0.541 0.314 0.368 0.408 0.727
7 0.534 0.246 0.286 0.355 0.571
8 0.479 0.270 0.437 0.395 0.690
9 0.420 0.359 0.418 0.399 0.701
10 0.531 0.315 0.495 0.447 0.844
11 0.456 0.271 0.592 0.439 0.822
12 0.439 0.310 0.601 0.450 0.853
13 0.532 0.252 0.507 0.430 0.795
14 0.446 0.387 0.524 0.452 0.860
15 0.496 0.229 0.343 0.356 0.572
16 0.474 0.369 0.506 0.450 0.852
17 0.458 0.675 0.269 0.468 0.905
18 0.378 0.388 0.209 0.325 0.480
19 0.365 0.376 0.309 0.350 0.555
20 0.499 0.587 0.376 0.487 0.964
21 0.516 0.347 0.285 0.383 0.652
22 0.290 0.520 0.466 0.425 0.779
23 0.329 0.399 0.414 0.381 0.646
24 0.311 0.355 0.184 0.284 0.357
25 0.641 0.443 0.342 0.475 0.929
26 0.619 0.392 0.481 0.497 0.993
27 0.553 0.340 0.291 0.395 0.688
28 0.450 0.277 0.392 0.373 0.624
29 0.410 0.443 0.288 0.380 0.645
30 0.474 0.287 0.254 0.338 0.520
31 0.387 0.265 0.278 0.310 0.436
32 0.515 0.451 0.285 0.417 0.754
33 0.366 0.368 0.191 0.308 0.431
34 0.444 0.228 0.184 0.285 0.362
35 0.265 0.292 0.140 0.232 0.203
36 0.424 0.218 0.194 0.279 0.343
37 0.393 0.358 0.339 0.364 0.595
38 0.220 0.212 0.339 0.257 0.278
39 0.296 0.285 0.137 0.239 0.224
40 0.285 0.192 0.284 0.254 0.268
41 0.251 0.254 0.264 0.256 0.276
42 0.247 0.266 0.340 0.284 0.359
43 0.190 0.298 0.271 0.253 0.265
44 0.415 0.467 0.172 0.352 0.560
45 0.296 0.357 0.143 0.266 0.303
46 0.378 0.416 0.217 0.337 0.516
47 0.285 0.217 0.144 0.215 0.154
48 0.114 0.268 0.198 0.193 0.087
49 0.272 0.212 0.192 0.225 0.182
50 0.248 0.152 0.370 0.256 0.276
51 0.189 0.212 0.377 0.259 0.285
52 0.195 0.136 0.333 0.221 0.171
53 0.130 0.279 0.279 0.229 0.195
102
102
103
103
ANEXO C - GRÁFICOS DE DISPERSÃO DOS DADOS OBSERVADOS E
DOS DADOS NORMALIZADOS
As figuras 1C a 10C mostram os gráficos de dispersão dos dados observados e
dos dados normalizados.
MédiaUmid
MédiaProd
35343332313029282726
0.6
0.5
0.4
0.3
0.2
Scatterplot of MédiaProd vs MédiaUmid
Figura 1C Diagrama de dispersão da produtividade do trigo versus conteúdo
de água no solo.
Umid(Norm)
Prod(Norm)
1.41.21.00.80.60.40.20.0
1.4
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Scatterplot of Prod(Norm) vs Umid(Norm)
Figura 2C Diagrama de dispersão da produtividade do trigo versus conteúdo
de água no solo (Normalizados).
104
104
MédiaPtotal
MédiaProd
605856545250
0.6
0.5
0.4
0.3
0.2
Scatterplot of MédiaProd vs MédiaPtotal
Figura 3C Diagrama de dispersão da produtividade do trigo versus porosidade
total do solo.
Ptotal(Norm)
Prod(Norm)
1.21.00.80.60.40.20.0-0.2-0.4
1.4
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Scatterplot of Prod(Norm) vs Ptotal(Norm)
Figura 4C Diagrama de dispersão da produtividade do trigo versus porosidade
total do solo (Normalizados).
MédiaDs
MédiaProd
1.2251.2001.1751.1501.1251.1001.0751.050
0.6
0.5
0.4
0.3
0.2
Scatterplot of MédiaProd vs MédiaDs
105
105
Figura 5C Diagrama de dispersão da produtividade do trigo versus densidade
do solo.
Ds(Norm)
Prod(Norm)
1.00.80.60.40.20.0-0.2
1.4
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Scatterplot of Prod(Norm) vs Ds(Norm)
Figura 6C Diagrama de dispersão da produtividade do trigo versus densidade
do solo (Normalizados).
MédiaGC
MédiaProd
85.082.580.077.575.0
0.6
0.5
0.4
0.3
0.2
Scatterplot of MédiaProd vs MédiaGC
Figura 7C Diagrama de dispersão da produtividade do trigo versus grau de
compactação do solo.
GC(Norm)
Prod(Norm)
1.000.750.500.250.00
1.4
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Scatterplot of Prod(Norm) vs GC(Norm)
106
106
Figura 8C Diagrama de dispersão da produtividade do trigo versus grau de
compactação do solo (Normalizados).
MédiaRSP
MédiaProd
3.02.82.62.42.22.0
0.6
0.5
0.4
0.3
0.2
Scatterplot of MédiaProd vs MédiaRSP
Figura 9C Diagrama de dispersão da Produtividade do trigo versus resistência
do solo à penetração.
RSP(Norm)
Prod(Norm)
1.00.80.60.40.20.0
1.4
1.2
1.0
0.8
0.6
0.4
0.2
0.0
Scatterplot of Prod(Norm) vs RSP(Norm)
Figura 10C Diagrama de dispersão da produtividade do trigo versus resistência
do solo à penetração (Normalizados).
ANEXO D - ESTATÍSTICA DESCRITIVA DOS ATRIBUTOS EM ESTUDO
Tabela 1D Estatística descritiva de todas as variáveis estudadas
VARIÁVEL N Med Var CV(%) Min Max KS
US 97 30,02 2,14 4,87 26,60 35,12 0,075
107
107
PT 97 55,90 3,03 3,11 50,70 59,84 0,052
DS 97 1,145 0,0012 3,01 1,05 1,213 0,055
GC 97 81,05 5,86 2,99 74,55 85,55 0,055
RSP 97 2,42 0,073 11,16 1,88 2,96 0,054
PD 97 0,331 0,007 25,29 0,193 0,582 0,081
Notas: N: número de dados; Med: média; Var: variância; CV: coeficiente de variação; Min:
valor mínimo; Max: valor máximo; KS: teste de Kolmogorov-Smirnov (5% de
significância); US: conteúdo de água no solo; PT: porosidade total; DS: densidade do
solo; GC: grau de compactação; RSP: resistência do solo à penetração; PD:
produtividade do trigo.
ANEXO E - DADOS DOS SEMIVARIOGRAMAS EXPERIMENTAIS
Tabela 1E Semivariogramas experimentais das variáveis em estudo
VARIÁVEL MODELO C
0
C
0
+ C
1
a (m) ε (%)
US Exponencial 2,362 4,737 120,90 49,9
PT Exponencial 4,430 9,320 72,90 47,5
DS Exponencial 0,001 0,0043 27,30 23,2
GC Exponencial 5,180 21,330 27,60 24,2
RSP Esférico 0,0727 0,161 46,70 45,0
PD Exponencial 0,0049 0,0179 45,60 27,3
Notas: C
0
: efeito pepita; C
0
+C
1
: patamar; a: alcance; (m), ε: coeficiente efeito pepita; (%),
US: conteúdo de água no solo; PT: porosidade total; DS: densidade do solo; GC: grau
de compactação; RSP: resistência do solo à penetração; PD: produtividade do trigo.
108
108
ANEXO F - REGRESSÕES USANDO A ESTATÍSTICA CLÁSSICA
Tabela 1F Regressões simples e múltiplas
REGRESSÕES R
2
PD = 1,0540 + 4,7004DS – 0,0786GC + 0,1102RSP 0,2253
PD = 0,9992 – 0,8236DS + 0,1139RSP 0,2147
PD = 1,2026 + 6,9277DS – 0,1088GC 0,0824
PD = 1,0185 – 0,0119GC + 0,1135RSP 0,2176
PD = 1,1329 – 0,6996DS 0,0826
PD = 1,1563 – 0,0102GC 0,0863
PD = 009117 + 0,9931RSP 0,1024
Notas: PD : produtividade do trigo; DS : densidade do solo; GC : grau de compactação;
RSP: resistência do solo à penetração; R
2
: coeficiente de determinação.
109
109
Livros Grátis
( http://www.livrosgratis.com.br )
Milhares de Livros para Download:
Baixar livros de Administração
Baixar livros de Agronomia
Baixar livros de Arquitetura
Baixar livros de Artes
Baixar livros de Astronomia
Baixar livros de Biologia Geral
Baixar livros de Ciência da Computação
Baixar livros de Ciência da Informação
Baixar livros de Ciência Política
Baixar livros de Ciências da Saúde
Baixar livros de Comunicação
Baixar livros do Conselho Nacional de Educação - CNE
Baixar livros de Defesa civil
Baixar livros de Direito
Baixar livros de Direitos humanos
Baixar livros de Economia
Baixar livros de Economia Doméstica
Baixar livros de Educação
Baixar livros de Educação - Trânsito
Baixar livros de Educação Física
Baixar livros de Engenharia Aeroespacial
Baixar livros de Farmácia
Baixar livros de Filosofia
Baixar livros de Física
Baixar livros de Geociências
Baixar livros de Geografia
Baixar livros de História
Baixar livros de Línguas
Baixar livros de Literatura
Baixar livros de Literatura de Cordel
Baixar livros de Literatura Infantil
Baixar livros de Matemática
Baixar livros de Medicina
Baixar livros de Medicina Veterinária
Baixar livros de Meio Ambiente
Baixar livros de Meteorologia
Baixar Monografias e TCC
Baixar livros Multidisciplinar
Baixar livros de Música
Baixar livros de Psicologia
Baixar livros de Química
Baixar livros de Saúde Coletiva
Baixar livros de Serviço Social
Baixar livros de Sociologia
Baixar livros de Teologia
Baixar livros de Trabalho
Baixar livros de Turismo
