帮助手册

Amazon S3 监控

Amazon S3 提供了一个可靠的云存储平台,可按任意规模存储和检索对象。

通过 Site24x7 的 S3 集成,您可以收集 S3 日志,以及各个存储桶级别的服务级存储和请求指标。此外,您还可以从全球位置定期对关键 S3 对象执行检查,以监控其功能和响应时间。

设置和配置

  • 如果尚未操作,请通过基于密钥或 IAM 角色的认证授予 Site24x7 访问您 AWS 账户的权限。
  • 集成 AWS 账户页面中,在要发现的服务字段下选中 S3 复选框。

策略和权限

Site24x7 需要以下权限来发现和监控您的 S3 存储桶。了解更多。

  • "s3:GetObjectAcl",
  • "s3:GetEncryptionConfiguration",
  • "s3:GetLifecycleConfiguration",
  • "s3:GetBucketTagging",
  • "s3:ListAllMyBuckets",
  • "s3:GetBucketVersioning",
  • "s3:GetBucketAcl",
  • "s3:GetBucketLocation",
  • "s3:GetBucketPolicy",
  • "s3:GetReplicationConfiguration",
  • "s3:GetBucketLogging"
  • "s3:GetObjectAcl",
  • "s3:ListBucket",
  • "s3:GetBucketLocation"

轮询频率

存储指标每天采集一次。请求和数据传输指标按设置的轮询频率(1 分钟到 1 天)采集。了解更多。

安全发现

通过在单个控制台中集成 Amazon GuardDuty 和 S3,增强 Amazon S3 实例抵御网络攻击的能力。Amazon S3 的 GuardDuty 发现可以按严重性级别分组。分组功能可让您对严重性类别进行排序,并列出相应的规则包名称备注(如有)。

除了为被监控的 S3 实例添加这些阈值配置外,您还可以选择设置阈值并在以下情况下收到通知:

  • 基于 GuardDuty 阈值配置中高、低、中、信息或总计数等严重性级别的安全发现。
  • 加速器配置,例如 GPU 内存利用率、加速器内存使用量和加速器利用率。

支持的性能指标

存储指标

属性 描述 统计方式 数据类型
存储桶大小 衡量存储桶中所有存储类(Amazon Glacier 除外)存储的数据量。 平均值 字节
对象数量 衡量存储桶中所有存储类(Amazon Glacier 除外)存储的对象数量。 平均值 计数

请求指标

使用 Amazon S3 管理控制台为您的 S3 存储桶启用请求指标,以监控对对象和存储桶的操作。

属性 描述 统计方式 数据类型
所有请求 衡量向 S3 存储桶中所有对象发出的 HTTP 请求总数,不限类型。如果您正在使用存储桶的指标配置,则此指标仅计算符合筛选条件的对象的 HTTP 请求。 总和 计数
GET 请求 衡量对 Amazon S3 存储桶中对象发出的 HTTP GET 请求总数。 总和 计数
PUT 请求 衡量对 Amazon S3 存储桶中对象发出的 HTTP PUT 请求总数。 总和 计数
删除请求 衡量对 Amazon S3 存储桶中对象发出的 HTTP Delete 请求总数。多对象删除操作请求也计算在内。无法得知已删除的对象数量,仅衡量对对象发出的删除请求数量。 总和 计数
Head 请求 衡量对 Amazon S3 存储桶发出的 HTTP Head 请求总数。 总和  计数
列表请求 衡量对 Amazon S3 存储桶发出的 HTTP List 请求总数。 总和 计数
POST 请求 衡量对 Amazon S3 存储桶发出的 HTTP POST 请求总数。 总和 计数
下载字节数 衡量发送到 Amazon S3 存储桶的请求所下载的总字节数(响应包含正文的情况)。 总和  字节
上传字节数 衡量发送到 Amazon S3 存储桶的请求所上传的总字节数(请求包含正文的情况)。 总和 字节
4xx 错误 衡量对 Amazon S3 存储桶发出的请求产生的客户端错误总数。 总和 计数
5xx 错误 衡量对 Amazon S3 存储桶发出的请求产生的服务器端错误总数。 总和 计数
首字节延迟 从 S3 存储桶接收到完整请求正文到开始返回响应之间的时间。 平均值
总请求延迟 从收到第一个字节到向 Amazon S3 存储桶发送最后一个字节的每个请求耗时。 平均值
SELECT 请求 使用 SQL 表达式从对象中检索特定数据的 Amazon S3 Select 请求数量。 总和 计数
SELECT 扫描字节数 Amazon S3 Select 请求从对象中筛选数据时扫描的总字节数。 总和 字节
SELECT 返回字节数 Amazon S3 Select 请求从对象中筛选数据后返回的总字节数。 总和 字节
HTTP 4xx 错误百分比 指示向 S3 存储桶发出的 HTTP 请求中导致 4xx 客户端错误的百分比。 平均值 百分比
HTTP 5xx 错误百分比 指示向 S3 存储桶发出的 HTTP 请求中导致 5xx 服务器错误的百分比。 平均值 百分比

复制指标

属性 描述 统计方式 数据类型
复制延迟 对于给定的复制规则,复制目标区域落后于源区域的最大秒数。 最大值
待复制字节数 对于给定的复制规则,待复制对象的总字节数。 最大值 MB
待复制操作数 对于给定的复制规则,待复制的操作数量。 最大值 计数
复制失败操作数 失败的 Amazon S3 复制操作数量。 总和 计数

配置详情

以下库存数据针对受监控的 S3 存储桶进行收集。

属性 描述
存储桶名称 S3 存储桶的名称
创建时间 存储桶的创建日期
S3 存储桶位置 存储桶所在的 AWS 区域
存储桶策略 用于管理 S3 存储桶访问权限的存储桶策略和用户策略
生命周期规则 为对象生命周期管理配置的规则
存储类 正在使用的存储类类型(标准、IA(低频访问)、Glacier 或 RRS(降低冗余))
所有者 存储桶的所有者

阈值配置

要为 Site24x7 - S3 存储桶集成监视器配置阈值:

  1. 前往管理 > 配置文件 > 阈值和可用性
  2. 点击添加阈值配置文件
  3. 监视器类型下拉菜单中选择 S3 存储桶,并在显示名称字段中提供合适的名称。
  4. 支持的指标显示在阈值配置部分。您可以为上述所有指标设置阈值,并通过将当存储桶为公开时通知选项切换为,配置在 S3 存储桶为公开时接收通知。
  5. 点击保存

预测

估算以下性能指标的未来值,以便对增加容量或扩展 AWS 基础设施做出明智的决策。

  • 存储桶大小
  • 对象数量

检查 S3 对象

您可以在存储桶级别检查 S3 对象是否存在,并为此设置阈值。当定义的对象在 S3 存储桶中缺失时,您将收到通知。

注意

输入对象的值时,请确保输入对象名称及其前缀。
例如,如果对象端点为 https://s3-region.amazonaws.com/bucket-name/prefix-name/object.txt,则请提供值:prefix-name/object.txt

Amazon S3 对象监控

使用 Site24x7 内置的 API 监控功能,定期对 S3 对象 URL 执行检查以确保其正常运行。在配置的时间间隔内,Site24x7 从每个配置的位置向对象 URL 发出 HTTP 请求,并验证结果。

前提条件

  • 必须启用 Amazon S3 监控集成。
  • S3 存储桶监视器的状态必须为活动。

添加 S3 对象监视器

本节介绍如何发现、添加和配置对象 API 端点的检查:

  • 在 Site24x7 Web 控制台中,选择 AWS > 已监控的 AWS 账户
  • 从下拉菜单中选择添加 S3 端点
注意

您也可以通过导航到 S3 存储桶 > S3 对象选项卡,然后点击添加 S3 对象来添加 S3 对象。

发现 S3 对象

本节介绍如何从 S3 存储桶中发现特定对象 URL 端点:

  • 从下拉列表中选择一个 S3 存储桶(不支持多选)。
  • 输入适当的正则表达式以匹配所选 S3 存储桶中的对象 URL。在输入字符串前后附加 .* 作为后缀或前缀,以仅从所选存储桶中选择特定的对象 URL。例如,您可以使用正则表达式模式(如 images/.*)仅发现特定路径或目录中的对象,或使用正则表达式模式(如 .png.*)发现特定类型的对象。
  • 接下来点击发现对象

选择 S3 对象

所有匹配正则表达式模式的对象 URL 将在下方列出。在此处,您可以通过点击复选框选择要监控的端点,然后选择添加所选对象

配置 S3 对象监视器

要添加 S3 对象端点监视器,您需要为检查配置指定值。

  • 显示名称:为检查提供合适的名称。
  • S3 对象 URL:所选 S3 对象端点 URL 将在此处列出。您可以通过取消选中并保存表单来从列表中删除端点。
  • 检查频率:从 1、5、10、20、25、30(分钟)或 1、2(小时)中选择一个选项。例如,如果选择 1 分钟,每个选定的地理位置将每 1 分钟尝试访问您的端点一次。
  • 连接超时:指定 1-45 秒之间的连接时间。在此时间段内未生成响应的检查将被视为失败。
  • 首选 IPv6:如果您正在监控双栈对象端点,请将切换按钮移至"是"。
  • 监控位置:创建新的位置配置文件,或选择/编辑现有配置文件。端点将从适用的位置接收请求。 了解更多
  • 监视器组:将监视器逻辑分组以便更好地管理。创建新的监视器组,或通过点击相应图标将端点监视器添加到现有监视器组。
  • 依赖监视器:根据依赖资源的宕机状态,S3 对象监视器的告警将被抑制。

 

为 HTTP 配置指定以下详情:

  • HTTP 方法:指定要使用的 HTTP 方法,可选择 GET 或 HEAD。
  • 用户代理:如要模拟特定浏览器,请输入用户代理。

为响应验证指定以下详情:

  • 应包含字符串:填写一个字符串,其在响应中的存在表示失败。
  • 不应包含字符串:填写一个字符串,其在响应中不存在表示失败。
  • 区分大小写:如果响应区分大小写,请将切换按钮切换为"是"。
  • 应匹配正则表达式:输入一个正则表达式模式,其在响应中存在表示失败。

为设置配置文件指定以下详情:

  • 阈值和可用性:为每个支持的属性配置值,并在指标数据点超过您定义的值时收到告警。您可以创建新的阈值配置文件,或选择/编辑默认阈值配置文件。
  • 通知配置文件:配置在阈值违规或失败时通知的时间和人员。您可以创建新的通知配置文件或选择/编辑现有配置文件。参阅此处以创建自定义通知配置文件。
  • 用户告警组:选择告警组。要在组中添加多个用户,请参阅此处
  • 标签:与对象关联的用户定义的键值对将被发现并自动分配。
  • IT 自动化:您可以自动响应告警事件对 AWS 资源执行操作任务。您可以创建自动化配置文件并将其关联到对象端点监视器,并在监视器进入宕机/告警/恢复/任何状态变更或属性值相对于阈值发生变化时执行。
  • 第三方集成:您可以将监视器与第三方告警服务集成,以改善事件管理。如果您尚未设置任何集成,请前往"管理 > 第三方集成"创建一个。了解更多
  • 点击保存

Amazon S3 文件夹监控

Site24x7 的 Amazon S3 文件夹监控功能允许您在监控 S3 存储桶的同时监控 S3 虚拟文件夹。

前提条件

  • 必须启用 Amazon S3 存储桶监控集成。
  • S3 存储桶监视器的状态必须为活动。

为什么需要 S3 文件夹监控?

通过 S3 文件夹监控,您可以:

  • 在单个文件夹级别和文件夹层次结构级别收集存储指标、对象计数和文件夹计数。
  • 在单个文件夹级别收集对象修改指标。
  • 以每分钟为单位跟踪最多 24 小时的指标数据。

S3 文件夹监控包含以下部分:

S3 文件夹摘要

此部分显示 S3 存储桶内的对象数量、文件夹数量和对象大小,包括:

    • 文件夹中的对象数量以及子文件夹中的对象总数。
    • 根据配置的轮询频率添加或修改的对象数量。
    • 文件夹数量以及子文件夹总数。
    • 最大和最小对象大小。

S3 文件夹摘要选项卡中的最近更新的对象详情部分提供了对受监控文件夹内最近活动的可见性。

 此部分显示:
  • 最近更新的对象:文件夹中最近修改的对象名称。
  • 最近更新时间:对象最近更新的确切时间戳。

这有助于您快速了解文件夹是否正在积极接收更新,或是否在一段时间内保持不变。这对以下场景特别有用:

  • 验证预期的数据上传或文件生成工作流。
  • 检测数据管道中的延迟或不活动状态。
  • 监控预期频繁更新的时间敏感文件夹。

例如,如果某个文件夹预计每隔几分钟接收一次文件,但最近更新时间显示有较大延迟,则可能表示上游存在问题。

您可以从阈值配置文件为最近更新时间指标配置告警阈值,以检测不活动状态或延迟。此配置有助于确保在文件夹未在预期时间窗口内更新时收到告警,适用于以下场景:

  • 识别停滞的数据摄取管道。
  • 确保按预期进行定期文件上传。
  • 维护下游系统中的数据新鲜度。

文件夹概述

文件夹概述选项卡显示监视器信息,例如存储桶名称、文件夹位置和文件夹名称。

中断

中断选项卡显示文件夹的宕机或告警历史记录,包括开始时间到结束时间、持续时间、中断原因和备注等详情。

库存

库存选项卡显示文件夹的库存数据。

日志报表

日志报表选项卡显示日志详情,包括采集时间、状态、文件夹中的对象数量、子文件夹中的对象总数、文件夹数量、子文件夹总数以及根据配置的轮询频率添加或修改的对象数量。选择所需的时间段,并按位置或可用性筛选日志报表。点击下载 CSV 以获取 CSV 格式的报表。

发现并添加 S3 文件夹监视器

本节介绍如何发现和添加 S3 文件夹监视器。

  1. 在 Site24x7 Web 控制台中,前往 > AWS > 已监控的 AWS 账户
  2. 点击 S3 文件夹选项卡旁边的 + 图标。
  3. 添加 S3 文件夹监视器窗口中,从选择 S3 存储桶下拉列表中选择您首选的 S3 存储桶
  4. 输入所需的文件夹路径以匹配所选 S3 存储桶中的文件夹。要发现所选 S3 存储桶下的所有文件夹(包括子文件夹),请在"文件夹路径"字段中输入 /*。要查看特定文件夹及其子文件夹,请在父文件夹名称后添加 /* 作为后缀。例如,考虑一个包含三个文件夹的 S3 存储桶:zylker_1、zylker_2 和 zylker_3。假设 zylker_2 有一个名为 zylker_a 的子文件夹。
    • 如果您希望查看 zylker_2 及其子文件夹,请在文件夹路径字段中输入 zylker_2/*
    • 如果您只希望查看 zylker_1 文件夹,请在文件夹路径字段中输入 zylker_1
    • 如果您只希望查看 zylker_2 文件夹的子文件夹 zylker_a,请在文件夹路径字段中输入 zylker_2/zylker_a。 
  5. 点击发现文件夹以查看适用的文件夹。
  6. 点击添加文件夹以添加适用的文件夹。
注意
  • 您也可以通过导航到 S3 存储桶 > S3 文件夹选项卡,然后点击添加 S3 文件夹来添加 S3 文件夹。
  • 如果 S3 存储桶名称与 AWS 添加的任何存储桶名称匹配,则这些 S3 存储桶的文件夹不会被自动添加。但是,您可以手动添加这些文件夹。在这种情况下,Site24x7 会按配置的轮询频率检查文件夹是否存在于 S3 存储桶中,但不会收集指标数据。以下是 AWS 添加的 S3 存储桶名称列表:
    • aws-cloudtrail-logs
    • elasticbeanstalk
    • aws-logs
    • s3.amazonaws.com
    • rds-backup
    • redshift-
    • access-logs
    • config-rules
    • cross-account-replication
    • -cloudformation
    • -elasticache|emr-logs
    • -glue
  • 对于非 AWS 添加的 S3 存储桶以及包含大量文件夹的存储桶,文件夹将被监控,但指标数据每天只采集一次。

默认情况下,每个 S3 存储桶将添加一个 S3 文件夹。要自动发现 S3 文件夹,请在 > AWS > S3 存储桶 > 编辑监视器详情选项卡中将自动发现 S3 文件夹切换为。启用自动发现 S3 文件夹选项后,S3 存储桶内所有 S3 文件夹和子文件夹的存储指标和对象修改指标将被自动发现和监控。

例如,考虑一个包含三个文件夹的 S3 存储桶:zylker_1、zylker_2 和 zylker_3。假设 zylker_2 有一个名为 zylker_a 的子文件夹。将自动发现 S3 文件夹切换为时,所有三个 S3 文件夹(zylker_1、zylker_2 和 zylker_3)以及子文件夹(zylker_a)将被自动发现和监控。

注意

即使启用了自动发现 S3 文件夹选项,当满足以下条件时,文件夹或子文件夹也不会在 S3 存储桶内自动或手动添加:

  • 文件夹名称等于 AWSLogs。
  • 文件夹名称等于 vaults。
  • 文件夹名称为 UUID。例如:123e4567-e89b-12d3-a456-426614174000
  • 文件夹名称仅由数字或特殊字符组成。例如:123456、$%^&&、23456#$%

本文档对您有帮助吗?

您愿意帮助我们改进文档吗?请告诉我们哪些方面可以做得更好。


很抱歉本文档未能让您满意。我们希望了解可以从哪些方面改进您的体验。


感谢您抽出时间分享反馈。我们将利用您的反馈来改进在线帮助资源。

短链接已复制!