全部新闻

扩大对人工智能研究的新资助计划
扩大对人工智能研究的新资助计划
2025-01-30 01:41:00
提供的文本不包含新闻文章或任何可以汇总的连贯内容。请提供一篇适当的新闻文章以进行摘要。
用亚马逊基岩自定义模型进口部署DeepSeek-R1蒸馏型美洲驼型号|亚马逊网络服务
用亚马逊基岩自定义模型进口部署DeepSeek-R1蒸馏型美洲驼型号|亚马逊网络服务
2025-01-30 01:10:15
要使用自定义模型导入将诸如DeepSeek-R1(例如DeepSeek-r1)等公开可用的模型导入到亚马逊基岩中,请遵循以下详细步骤:### 1。**先决条件**确保您有: - 一个AWS帐户。 - 访问亚马逊基岩服务。 - 一个包含您的模型文件(权重,配置文件等)的公共访问的S3存储桶。### 2。**准备模型文件**准备您的型号文件以导入到亚马逊基岩中: - **模型权重**:通常以`.bin或`.pt`格式。 - **配置文件(`config.json`)**:包含体系结构和超参数。 - **词汇文件**:通常命名为`vocab.txt`。### 3。**将模型文件上传到S3 **将模型文件上传到S3存储桶:````shAWS S3 CP/PATH/TO/MODER_FIELS S3://您的bucket-name/````````### 4。**设置IAM权限**确保您在AWS身份和访问管理(IAM)方面具有必要的权限,以访问亚马逊基石。### 5。**通过控制台或SDK创建模型导入作业**####通过AWS管理控制台:1。导航到亚马逊基岩控制台。2。转到“自定义模型”。3。单击“导入自定义模型”。4.填写所需的细节,例如``模型name'',`s3 buccet uri'和其他配置。####通过AWS CLI:````shAWS BedRock创建 - 推动力\-Model-arn \-instance-type \ \-inperion-code-s3-location s3:// your-bucket-name/path/to/model_files.zip \ - -On-arn arn:AWS:IAM :: 123456789012:角色/服务 - 杆/基础 - 插入````````### 6。**配置推理端点**成功完成模型导入作业后,创建一个推理端点:````shAWS BedRock创建 - 启动 - 端\ - Endpoint-Name my-custom-model-endpoint \ - 现实型ML.M5.large \ - 启用 - deployment-id ````````### 7。**提出推理模型**终点准备就绪后,您可以调用它执行推断:````shAWS BedRock生成文本\ - Endpoint-Name my-custom-model-endpoint \ - 预告说:“你好,你好吗?”\ \ - 最大t-tokens 100 \ - 温度0.7````````### 8。**监视和管理成本**使用Amazon CloudWatch监视模型部署的性能,而AWS成本浏览器以跟踪成本。###示例工作流程####上传模型文件:````shAWS S3 CP/Path/to/model_files.zip s3:// your-bucket-name/````````####通过CLI创建自定义模型作业:````shAWS BedRock创建 - 推动力\-Model-Arn Arn:AWS:Bedrock:<区域>::型号/deepSeek-r1-distill-lm-8b \ \ - 现实型ML.M5.large \-inperion-code-s3-location s3:// your-bucket-name/path/to/model_files.zip````````####创建推理端点:````shAWS BedRock创建 - 启动 - 端\ - Endpoint-Name DeepSeek-r1-Distill-lm-8b-endpoint \ - 现实型ML.M5.large \ - 启用 - deployment-id ````````####为文本生成的Indoke模型:````shAWS BedRock生成文本\ - Endpoint-Name DeepSeek-r1-Distill-lm-8b-endpoint \ - 提示“如何优化AWS成本?”\ \ - 最大t-tokens 50 \ - 温度0.3````````###其他注意事项####模型版本:实施清晰的版本策略来跟踪模型的不同版本和变化。####成本优化:从较低的并发配额开始,并根据实际使用模式扩展。默认限制适用于大多数初始部署。####监视和可观察性:使用Amazon CloudWatch和AWS COPS Explorer来有效监视性能和成本。### 结论通过遵循以下步骤,您可以利用亚马逊基岩中的DeepSeek-R1(例如DeepSeek-R1),同时受益于企业级基础架构,自动缩放功能和每次使用定价。这种方法使组织能够建立弹性的AI策略,以随着要求的变化而发展。有关更多详细信息,请参阅[Amazon Bedrock用户指南](https://docs.aws.aws.amazon.com/bedrock/latest/userguide/)或与AWS支持寻求帮助。
用亚马逊基岩自定义模型进口部署DeepSeek-R1蒸馏型美洲驼型号|亚马逊网络服务
用亚马逊基岩自定义模型进口部署DeepSeek-R1蒸馏型美洲驼型号|亚马逊网络服务
2025-01-30 01:10:15
要将诸如DeepSeek-R1(例如DeepSeek-r1)的公开模型导入亚马逊基岩中并利用其特定用例的功能,请遵循以下步骤:###导入DeepSeek-R1蒸馏型的逐步指南#### 1。**了解模型** - **模型概述**:熟悉DeepSeek提供的DeepSeek-R1蒸馏版(DeepSeek-R1-Distill-lllama-70B和DeepSeek-R1-Distill-Lalama-8B)。 - **绩效基准**:回顾将这些模型与基本乳拉的基准相比,以了解其性能指标的基准。#### 2。**设置AWS环境** - ** AWS帐户**:确保您拥有一个AWS帐户,并具有使用亚马逊基石的必要权限。 - ** IAM角色和政策**:设置IAM角色和策略,用于访问基岩,S3(用于模型存储)和CloudWatch(用于监视)。#### 3。**准备模型伪像** - **型号格式**:确认您的DeepSeek-R1模型是由Amazon Bedrock支持的格式(通常是Pytorch或TensorFlow)。 - ** S3存储**:将型号上传到S3存储桶中。#### 4。 - **自定义模型端点**:使用Amazon Bedrock SDK/API的`create_custom_model`端点。``python导入boto3bedrock_client = boto3.client('Bedrock',region_name ='us-east-1')model_details = {'ModelArn':F'ARN:AWS:BEDROCK:{region}:{account_id}:models/{your_model_identifier}','ModelName':“ DeepSeek-r1-Distill-lalama-8b”,“描述”:“ DeepSeek蒸馏骆驼80亿参数版本。”,'resourcearn':f'arn:aws:s3 ::: {bucket_name}/{model_key}',#s3位置}响应= bedrock_client.create_custom_model(** model_details)打印(响应['modelid'])```````` - **模型版本**:确保您在``MoteName''中包括版本的后缀或标识符来管理模型的不同版本。#### 5。**配置推理设置** - **环境变量和资源**:定义环境变量并指定所需的资源(例如S3存储桶,IAM角色)用于推理。 - **推理配置**:如果需要为模型执行配置自定义设置,请使用`create_inference_configuration`端点。#### 6。**监视器和优化** - ** CloudWatch指标**:使用Amazon CloudWatch设置监视,以跟踪模型性能和用法指标。``pythoncloudWatch_client = boto3.client('CloudWatch',region_name ='us-east-1')响应= cloudwatch_client.put_metric_data(名称空间='Bedrock',metricdata = [{'metricname':'推论架'​​,'方面': [{'name':'modelid','value':model_id},,],,'timestamp':dateTime.utcnow(),“价值”:1,'单位':'count'},,这是给出的)```````` - **成本优化**:使用AWS成本浏览器来监视与您的自定义模型相关的成本,并根据需要调整并发配额。#### 7。**部署和测试** - **推理端点**:导入模型后,使用`Invoke_model`API来测试推理请求。``python响应= bedrock_client.invoke_model(modelid = model_id,输入= {'正文':{“ text_inputs”:[“生成此文本的摘要:...”]},'contentType':“ application/json”})打印(响应['结果'])````````#### 8。**评估和迭代** - **绩效调整**:根据现实情况案例不断评估模型性能,并根据需要进行迭代。 - **反馈循环**:实现一个反馈循环,其中使用用户交互来进一步训练和优化模型。###其他注意事项 - **型号版本控制策略**:始终在模型名称中包含版本号或标签,以方便跟踪。 - **监视和可观察性**:利用Amazon CloudWatch进行全面监视部署模型。 - **并发管理**:从保守的并发限制开始,并根据通过监视观察到的实际需求进行扩展。### 结论通过遵循以下步骤,您可以有效地导入并部署强大的公开模型(例如DeepSeek-R1)中的Amazon Bedrock。这种方法使您可以利用模型的功能,同时从AWS的托管基础​​架构中受益,以实现无缝操作和成本优化。有关更多详细的文档和API参考,请参阅[Amazon Bedrock用户指南](https://docs.aws.amazon.com/bedrock/latest/userguide/)和相关的SDK。
新的chatgpt政府可以使用非公开可用的数据
新的chatgpt政府可以使用非公开可用的数据
2025-01-30 00:45:18
Openai推出了Chatgpt Gov,允许政府机构使用其AI模型处理非公共,敏感的数据,同时在自我托管的情况下管理自己的安全要求。新版本提供了类似于Chatgpt Enterprise的文本解释和文档摘要等功能,但具有增强的隐私功能以供政府使用。专家强调需要严格审查此类工具,以确保透明度,问责制和安全处理公共数据。San Antonio的IT经理强调了随着AI融入政府运营,保持高标准和透明度的重要性。像不透明的公司正在开发验证系统,以确保AI模型符合公共部门的监管框架。同时,谨慎而又逐步采用这些技术,以达到构成期望的情况,而不会损害数据完整性。
DeepSeek数据库保持打开状态,暴露了敏感信息
DeepSeek数据库保持打开状态,暴露了敏感信息
2025-01-30 00:31:00
Infosec公司Wiz的DeepSeek是一家以开发具有成本效益的生成模型而闻名的中国人工智能公司。调查表明,DeepSeek的数据库基础架构无法正确确定,从而使敏感的数据包括聊天历史记录和无需认证的后端信息。这种潜在的风险,例如对数据库的完全控制和环境中的特权升级。尽管DeepSeek在通知后解决了该问题,但仍然担心保护客户数据的安全措施和培训数据的道德使用,尤其是在与OpenAI的互动方面。
USPTO发行人工智能策略
USPTO发行人工智能策略
2025-01-30 00:04:08
美国专利商标办公室(USPTO)发布了其人工智能策略文件,概述了该机构计划解决AI在知识产权政策,运营和创新生态系统中所面临的机遇和挑战的计划。该策略涵盖了五个重点领域:通过IP政策推进包容性AI创新;通过投资技术基础设施来建立卓越的AI功能;在USPTO和更广泛的生态系统中促进负责的AI使用;在员工中发展AI专业知识;并促进与其他美国机构,国际合作伙伴和公众共同优先事项的合作。尽管总统管理最近发生了变化,这导致了与AI有关的政策方向的转变,但USPTO继续强调其致力于通过战略使用AI技术来推动美国创新和竞争力的承诺。
在人工智能时代定义不忠
在人工智能时代定义不忠
2025-01-30 00:01:38
第二版的“幸存不忠的秘密”定于2025年2月发行,探讨了不断发展的不忠概念,而AI的进步。该书探讨了与AI同伴的关系如何模糊身体和情感不忠之间的界限,从而影响婚姻保真度。纽约时报最近的一篇文章强调了一个已婚妇女与聊天机器人建立亲密关系的案例,提出了有关这种互动是否构成不忠的问题。维持人际关系神圣性的策略包括设定明确的界限,优先考虑人类的互动,了解AI风险,并促进关系中技术使用的透明度。
微软的AI业务正在蓬勃发展 -  Xbox,不多
微软的AI业务正在蓬勃发展 - Xbox,不多
2025-01-29 23:39:14
微软报告说,第二季度为2025年的收入为696亿美元,同比增长12%,净收入增长了10%至241亿美元。AI业务的年收入运行率超过130亿美元,同比增长175%。云服务增长了31%,而游戏收入下降了7%。Xbox硬件收入下降了29%,但内容和服务因游戏通行证订阅增长而增加了2%。首席执行官萨蒂亚·纳德拉(Satya Nadella)强调了游戏通行证收入和Xbox Cloud Gaming流媒体小时的新季度记录,并指出了400万球员的“印第安纳·琼斯和大圈子”。Windows OEM和设备的收入增长了4%,尽管CFO Amy Hood预计在第3季度2025年下降。总体游戏收入预计将略有增长,而硬件收入将同比下降。
扎克(Zuck)耸了耸肩,发誓要花费数千亿美元在AI上|TechCrunch
扎克(Zuck)耸了耸肩,发誓要花费数千亿美元在AI上|TechCrunch
2025-01-29 23:28:07
美国市场对DeepSeek的AI模型将减少对GPU的需求的猜测感到恐慌,从而导致Nvidia的股票下跌了近20%。尽管如此,元首席执行官马克·扎克伯格(Mark Zuckerberg)承诺对AI的长期投资,可能达到数千亿美元。在META首次收益电话会议期间,扎克伯格强调了大量投资于AI基础设施的战略优势,并确认了将Llama 4成为世界上最有竞争力的模型,旨在超越封闭的模型,例如具有代理和多模式功能的Chantgpt。
双子座AI可以自动将您的电子表格转换为图表
双子座AI可以自动将您的电子表格转换为图表
2025-01-29 23:01:15
Google宣布,Gemini现在能够响应与数据相关的问题并为用户创建静态图表,向大多数工作区计划推出,并选择Google One One AI AI高级计划用户。AI生成Python代码来分析数据趋势并产生可视化,尽管这些是静态图像,需要使用新数据手动更新。准确性可能会受到不一致的格式或模糊提示的影响。此功能将在2月20日之前与其他最近的Gemini AI增强功能一起推出,以实现工作空间业务计划。