2024年1月20日，由稀土社区主办的 年度技能讲演 在深圳拉开帷幕。此次论坛主题为“与开发者同行”，共设置了主论坛和分论坛两个精彩纷呈的讲话环节。会议邀请到了科技立异者、互联网领域专家和企业代表，一同围绕着AI、大前端、数据库和云原生等抢手领域科技的前进，从多个维度讨论开发者面临的时机和应战。
经过此次技能讲演，社区带领与会者们一同回忆2023年的技能开展，展望2024年的科技前景。这场会议激发了与会者们的考虑，并为他们在快速开展的科技领域中抓住时机、应对应战供给了参考。
字节跳动数据库负责人 张雷
字节跳动数据库负责人张雷作为开场嘉宾，在会议上共享了 《云数据库技能应战与趋势：字节跳动的实践洞悉》 。他指出，字节跳动业务的高速开展推动了数据库产品系统的不断丰富，使其逐步从 2017 年前的“刀耕火种”年代，走向 2018～2022 年的大规模自研产品及平台化年代，并进一步迈向现在的系统化、云化、智能化年代。张雷回忆了过去五年字节数据库的开展历程，着重主要重心在于解决“规模化”问题。他一起指出，在 2024 年，字节跳动将面临服务者持有本钱、用户接入和系统运行时效等方面的应战。最终，他总结道，云数据库作为最根底的数字根底设施之一，其最中心的价值在于“本钱”与“功率”的优化。字节跳动将继续尽力应对这些应战，供给高效、牢靠的云数据库服务。
NVIDIA的资深解决方案架构师 卢翔龙
来自NVIDIA的资深解决方案架构师卢翔龙共享了 《NVIDIA：LLM 推理和服务布置技能总结及未来展望》 。他深入总结了LLM推理和服务布置技能，并展望了未来。卢翔龙指出，跟着出产言语使用的布置需求添加，高精度模型关于正确成果的重要性不行忽视。为应对应战，TensorRT-LLM应运而生，用于优化NVIDIA GPU上的大型言语模型推理功能。一起，他还介绍了LLM生态系统的演变，以及注意力机制优化、KV缓存优化、Inflight Batching和量化等优化技能。此外，NVIDIA的Triton Inference Server供给了快速、可扩展、低推迟的推理服务。NVIDIA许诺不只供给东西，还将加快LLM的开展，为开发者供给更高效、灵活的解决方案。
Datastrato 创始人、CEO 堵俊平
Datastrato 创始人、CEO 堵俊平在会上发表了主题讲演 《开源与商业：GenAI 年代的新磕碰》 。他总结了开源软件的 8 种商业模式，并介绍了相关经典案例。讲演中，他以“RedHat”作为订阅服务模式中的比如，阐述了商业模式是在实践中不断开展完善的。他还指出，在 PC 与服务器年代，企业版与订阅服务成为开发者需求重视的要点。在互联网年代，开源软件被广泛使用于构建互联网大厦。在移动互联网年代，把握使用与流量入口变得至关重要。跟着云年代的到来，开发者需求重视托管云服务“X as a service”。最终，堵俊平详细介绍了行将到来的具有应战性的“GenAI 年代”，他着重在这个年代，人工智能技能将与开源软件相结合，为立异和商业带来新的时机和应战。
华为诺亚方舟实验室语音语义首席科学家 刘群
华为诺亚方舟实验室语音语义首席科学家 刘群 带来了 《大言语模型技能现状和开展趋势的考虑》 的主题讲演。他回忆了近年来 LLM 的开展时间线及不同模型的演进。讨论了 LLM 的先天才能和后天才能，并着重经过提高硬件功能、优化模型架构和标准参数等方法来提高模型才能。他还讨论了 LLM 架构方面的开展趋势，包含稀疏化前向网络、练习推理优化、长序列等技能。刘群着重了预练习、指令微调和强化学习练习等方法对提高 LLM 才能的重要性。此外，他还剖析了 LLM 或许引发的问题、危险以及对社会的影响，如幻象问题、超人智能和就业市场的变化等。最终，刘群以为 AI 技能将成为人类社会的根底设施，AI将给人带来更多的休闲娱乐和受教育的时间和时机。
Jina AI 联合创始人兼 CTO 王楠
Jina AI 联合创始人兼 CTO 王楠在会上发表了主题讲演 《寻找 AI 革新下的不变需求：东西开发者视角下的 2023》 。他指出，自 ChatGPT 诞生以来，东西开发者们一直深感焦虑。针对如何为 AI 使用开发者节省开发时间、提高开发功率的问题，王楠总结了三个方面的应对策略：重视开发者的痛点、系统集成以及开发者的反应。针对行将到来的 2024 年，他展望了以下趋势：模型架构同质化、开源模型蓬勃开展、闭源模型引领开展、算力问题得到缓解、高质量揭露文本数据逐步枯竭、文字仍将是交互的中心。这些趋势将对东西开发者们产生深远影响。
节跨端与 Web 架构师，前 Meta React 中心成员黄玄
字节跨端与 Web 架构师，前 Meta React 中心成员黄玄在会上共享了主题讲演 《前端已死，前端永生》 。他针对近年来技能领域中的抢手话题“前端已死”发表了自己的看法。他以为，无论是从“技能”还是软件行业的“分工”视点来看，前端都只是一个动态的概念。经过对前端历史上中的巨细拐点建模，他推理出前端作为人与机器的枢纽会得以“永生”的方法。最终，他还展望了 AI 与元世界将为前端带来的全新或许。
在主论坛最终，为了赞誉这一年为稀土社区贡献优质内容的团队和个人，举行了「2023年度影响力榜单」发布典礼。来自互联网技能的精英齐聚一堂，一同见证了这个时间。
这次讲演为与会者供给了一个全面而深入的技能交流平台，促进了开发者之间的互动与合作，展望了2024年科技领域的开展前景。期望在新的一年里这些讨论和见地将为开发者们在面对时机和应战时供给有价值的辅导和启示！稀土也将继续与开发者同行。
